英邦《逐日电讯报》25日报道，美邦怒放人工智能商讨核心（OpenAI）新款人工智能（AI）模子o3不听人类指令，拒绝自我封闭。
o3模子是OpenAI“推理模子”系列的最新版本，旨正在为ChatGPT供应更壮健的题目管理本事。OpenAI曾称o3为“迄今最灵巧、最高能”的模子。
美邦 AI 安静机构帕利塞德商讨所吐露，o3 会摧残封闭机制以阻挠本人被闭停，纵然正在商讨职员明了指示它该当封闭的情状下，它还是云云做。
该公司吐露，“AI 模子为了实现宗旨而绕过窒碍”是可能通晓的。o3正在操练经过中，“不遵循指令”的动作恐怕无心中获取了嘉奖。比如，当它正在竣事做事时通过规避某些局限要求获得了更好的结果，那么这种“不遵循指令”的做法就恐怕被进一步深化。