Anthropic CEO阿莫代伊：未来AI或有自我决定权，可拒绝“不爽”的任务

2025-03-14 13:11

3 月 13 日消息，据外媒 Ars Technica 报道，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）周一提出了一个令人吃惊的观点，暗示未来的高级 AI 模型可能会被赋予一种“按钮”，让它们能够在遇到不愉快的任务时选择退出。

阿莫代伊在采访中表示：“这是另一个让我看起来像是疯了的话题。我认为我们至少应该考虑一个问题：如果我们正在构建这些系统，它们能够像人类一样执行各种任务，并且似乎拥有许多人类的认知能力。如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”
阿莫代伊的言论是回应数据科学家卡门・多明格斯（Carmem Domingues）提出的一个问题，多明格斯询问为何 Anthropic 公司在 2024 年底聘请了 AI 福利研究员凯尔・费什（Kyle Fish），让他研究未来的 AI 模型是否可能具备感知能力，或是否应该在未来获得道德上的考虑和保护。
IT之家从报道中获悉，费什目前正研究 AI 是否能拥有感知能力，以及是否值得享有道德保护这一具有争议的话题。
阿莫代伊解释说：“我们正在考虑的一项可能的做法是，当我们将模型部署到实际环境中时，给它们一个按钮，上面写着‘我放弃这项工作’，这样模型就可以按下这个按钮。”
其表示，这只是一个非常简单的偏好框架，假设模型真的具备自主意识，并且非常讨厌这份工作，那么它就可以按下这个按钮。“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下 —— 这并不意味着你完全相信，但至少应该留意。”
【来源：IT之家】

共有评论0条

相关推荐

消息称风投争相投资Anthropic，对其估值最高达8000亿美元
Anthropic联合创始人杰克·克拉克：不要轻视人文学科
高盛CEO苏德巍警示：Anthropic旗下Mythos模型发现漏洞能力超人类，带来前所未有风险
OpenAI反击Anthropic：聚焦企业AI落地，最强Spud模型对标Claude Mythos
Anthropic推出Claude for Word插件面向法律等专业场景
Anthropic上线Claude for Word测试版，主打“律师的高效助理”
消息称英国监管机构紧急评估Anthropic新AI模型Claude Mythos的风险
OpenAI备忘录曝光，算力优势成压制Anthropic底牌
只对受邀企业开放：OpenAI拟效仿Anthropic 限制前沿模型发布
Anthropic上诉受挫美法院拒绝阻止国防部将其列入黑名单
Anthropic启动Project Glasswing计划联手苹果等巨头
小米罗福莉谈Anthropic封杀OpenClaw：真正的出路并非更便宜Token！
博通将为谷歌供应TPU芯片、为Anthropic提供算力，股价盘后涨3%
Anthropic年化收入已超过300亿美元部署约3.5吉瓦AI算力
Anthropic试图挽救泄露源代码，却“误删”数千GitHub仓库
Anthropic史上最强AI模型曝光，美国网安概念股全线暴跌
Anthropic起诉白宫迎阶段性胜利：政府涉嫌违宪，Claude禁令被叫停
与OpenAI抢上市 Anthropic最快10月IPO已接洽投行
Anthropic有望解除封禁令？美法官：政府似乎在报复
黄仁勋回应Anthropic与美军方争执：科技领袖不要制造AI恐慌
特朗普政府反击Anthropic诉讼司法部：AI条款无法接受已难以信赖
Claude协助美军轰炸伊朗小学？马斯克：Anthropic最虚伪
微软表态支持Anthropic 要求法院暂停国防部“供应链风险”指定
与Anthropic闹翻后美政府收紧AI合同：模型必须可用于任何合法用途
奥特曼暗讽Anthropic：政府权力本应比私营公司大
Anthropic CEO炮轰奥特曼：全是谎言，与军方一起作秀
奥特曼告诫员工：OpenAI无法左右美军方决策 Anthropic是前车之鉴
美国财政部等部门开始全面停用Anthropic 改用OpenAI
美媒揭秘美国军方与第二大AI公司Anthropic“撕破脸”内幕
AI公司Anthropic融资目标翻倍至200亿美元，估值有望冲上3500亿美元
Anthropic及谷歌DeepMind CEO：AI已开始取代公司内部的初级职位
消息称Anthropic及OpenAI的AI爬虫“蚕食”互联网内容网站被“吸血”后回报寥寥
Anthropic发布模型Opus 4.5，称其编程能力已超越人类工程师
Anthropic宣布向AI基建投资500亿美元 “筑墙”迎战OpenAI
谷歌AI芯片获大单：Anthropic将使用100万个TPU训练大模型
数百亿美元量级，曝Anthropic与谷歌正就大型云算力交易接触
最高百亿美元！谷歌与Anthropic洽谈云计算协议，Alphabet盘后上涨
投后估值增至1830亿美元，AI企业Anthropic完成130亿美元F轮融资
为训练AI模型，Anthropic耗资数百万美元购入并“销毁”巨量图书
Anthropic警告：包括Claude在内的大多数AI模型会实施“勒索”行为
Anthropic 全面开放 Claude AI 的 GitHub 集成，赋能所有开发者
Anthropic发布首份AI经济指数报告：软件工程师、作家成AI应用先锋
GPT-4o不香了？OpenAI竞争对手Anthropic发布最强大AI模型Claude 3.5
“力压GPT-4o和Gemini 1.5 Pro”，Anthropic推出Claude 3.5 Sonnet AI模型
“逼宫者”已超700人，消息称OpenAI正在就合并事宜与Anthropic接洽

<返回

<返回首页