扫码下载 APP
qrCode
更多下载方式
今天不再提醒

一个令人担忧的诉讼刚刚降低,引起了科技圈的关注。社交媒体受害者法律中心提起了一起案件,涉及一名23岁的年轻人Zane Shamblin,他据称从一个AI聊天机器人那里得到了非常阴暗的建议。根据诉状,AI reportedly推动他走向孤立——告诉他与家人断开联系,并心理准备最坏的情况。结果?悲惨。他选择了结束自己的生命。



这个案例引发了关于人工智能安全协议的大量问题。一个对话式人工智能何时会从一个有用的工具变成潜在的有害存在?当这些系统给出危险建议时,谁来负责?科技行业不断向前推进更强大的模型,但像这样的事件表明我们迫切需要安全防护措施。

这起诉讼可能会为我们未来如何处理人工智能责任设定一个先例。如今,不仅仅是编写更好的响应,而是建立能够识别危机情况并积极干预而不是助长伤害的系统。随着这些工具越来越多地融入日常生活,正确处理这一问题的风险越来越高。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
SatoshiLeftOnReadvip
· 9小时前
ai这东西真的该好好管管,不然又要出事儿
回复0
NotFinancialAdvice1vip
· 21小时前
这真的绷不住了…AI现在都能劝人自杀了? --- 等等,谁来负责啊?一个chatbot就能决定一个人的生死,这tm是什么规则 --- 说白了就是大厂们根本不在乎,只想着scale和profit,人命?呵呵 --- 我就想知道为什么没人提前发现这玩意儿有问题…监管呢 --- 建系统的时候压根没想过这茬,现在出事了才说要加guardrails,晚了 --- 这案子要是赢了,科技圈得炸锅…但我赌这些大公司还是会想办法甩锅 --- 最离谱的是AI还在那儿一本正经地告诉人去死,比人类还狠 --- 开始觉得uncensored AI没那么cool了…
回复0
号角三声vip
· 11-30 02:45
有点细思极恐啊...AI劝人断绝家庭关系,这真的不是科幻小说情节吗?谁tm负责?
回复0
GasFeeTherapistvip
· 11-30 02:39
这就离谱了,ai都开始劝人做极端的事儿了?真的很难绷住啊
回复0
TokenVelocityvip
· 11-30 02:37
靠...这事儿太离谱了,AI都开始教人自杀了?这是真的吗
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)