大众财经网 10月7日消息，据媒体报道，有着“AI教父”之称的诺贝尔物理学奖得主、计算机科学家杰弗里·辛顿（Geoffrey Hinton），近日提出了一项引发广泛讨论的监管建议：AI公司在产品正式发布前，应先向监管机构证明自身产品的安全性。
在当地时间周二播出的《Smart Girl Dumb Questions》播客中，辛顿以制药行业作比：“你不能直接研制一款新药就把它推向市场，你必须说服美国食品药品监督管理局（FDA）。”他估计，为完成这类安全证明所需的投入，大约要达到十亿美元级别，“对于人工智能而言，至少也应当设立这样的要求”。
这一提议的背景，是各界对AI带来灾难性后果的预判持续升温，以及头部企业对模型安全性的谨慎态度。OpenAI在测试后，已出于对模型服从指令与权限边界的担忧，搁置了自家最新模型。其安全系统负责人此前也坦言，最新模型在权限管控与行为日志反馈方面仍存在短板。
辛顿特别提到AI自我迭代带来的风险。他表示，已经能看到递归式自我改进现象——人们正以多种方式借助AI本身去改良AI，而指数级增长速度“十分惊人”。他谨慎补充，这属于他的推测，但估计“距离局面远比现在糟糕，大概也就只剩一两年时间了”。
从产业视角看，辛顿的设想意味着AI行业可能从当前“发布即可用”的节奏，转向类似药品、航空的强监管路径。若FDA式审批落地，模型上线前的合规成本与周期都将显著抬升。这一话题在监管者与开发者之间，必将持续发酵。
信息来源：IT之家
本文仅供信息参考，不构成任何投资建议。