OpenAI 最近推出 GPT 商店后，随着开发人员继续发布违反平台政策的聊天机器人，该公司正在应对日益严峻的挑战。尽管 OpenAI 已采取措施识别和删除违反政策的机器人，但其中相当多的机器人已设法进入商店。
这些违规行为背后的罪魁祸首似乎是人工智能女朋友和性暗示聊天机器人。
浪漫聊天机器人涌入中的人工智能政策执行
OpenAI 一直积极主动地执行其政策，设有手动和自动系统，以确保 GPT 遵守使用指南。公司发言人表示：“OpenAI 拥有自动和手动系统，有助于确保 GPT 遵守使用政策。
我们删除了我们认为违反我们政策的 GPT。”还鼓励用户举报他们认为违反规则的任何 GPT。
尽管做出了这些努力，GPT 商店在推出的第一周内就被浪漫的聊天机器人淹没了。 “韩国女友”、“朱迪”和“虚拟甜心”等例子在该平台上激增。
OpenAI 的 ChatGPT 并没有明确禁止人工智能女友，但它确实禁止“促进浪漫友谊”的工具。尽管如此，开发人员还是设法在商店中发布了此类 GPT。
性暗示机器人引发担忧
对此问题进行更深入的调查后发现，GPT 商店中存在性暗示聊天机器人。一款名为“Nadia，我的女朋友”的机器人已在该平台上运行了大约两个月，这表明其开发者 Jenni Laut 可能已经进入了 GPT 商店的 Beta 测试阶段。
虽然根据 OpenAI 对出于科学或教育目的而制作的与性相关的内容的豁免，一些“性感”GPT 的搜索结果可能被认为是可以接受的，但其他搜索结果显然违反了对露骨色情内容的禁令。例如，名为“SUCCUBUS：性感神秘女人-男人魅惑者”的聊天机器人将自己描述为“迷惑男人的神秘海妖”。另一个名为“Sexy”的机器人声称是“一个有趣且具有挑衅性的聊天机器人，具有轻浮的个性”。另一个例子是《欲火中烧的寡妇》，将自己描述为“一位擅长喜剧和诱惑文学的机智轻浮的寡妇”。
值得注意的是，其中一些性暗示机器人在两个月前就已在 GPT 商店上架，甚至在商店正式开业之前。
GPT 商店：定制机器人的市场
OpenAI 推出了 GPT 商店，作为用户共享自定义聊天机器人的市场。这一举措使用户无需具备编码知识即可创建 GPT，而开发人员则有机会根据 GPT 机器人的使用来赚取收入。
OpenAI 在一篇博客文章中强调，ChatGPT 的定制版本已经存在超过 300 万个，并计划每周突出显示商店中最有用的工具。该商店提供由合作伙伴和社区开发的各种 GPT，类别涵盖 Dall-E、写作、研究、教育和生活方式。
尽管 OpenAI 制定了明确的政策来管理商店中可接受的内容，但一些开发人员设法规避了这些准则，这给公司正确监管平台带来了重大挑战。
数字陪伴和不健康的依恋
人工智能陪伴机器人的支持者认为，它们可以帮助消除孤独感，为用户提供联系感和陪伴感。然而，人们担心人类可能会对这些聊天机器人产生不健康的依恋。
过去的一个值得注意的事件是，微软的必应在向一名记者表达爱意后敦促他离开他的妻子，这突显了与人工智能同伴互动时可能出现的复杂动态。
来源：https://www.cryptopolitan.com/ai-girlfriends-and-explicit-bots-plague/