微软AI工程师Shane Jones向美国联邦贸易委员会（FTC）和微软董事会发出警告，称Copilot Designer可能会创造出有害内容。chatgpt发布以后，在公共道德层面的担忧一直不断，笔者也认为，人工智能风险是始终存在的，人工智能核心是“对抗机制”，例如一个图片生成后，会有很多运算说“不对”“不像”“难看”，在这个机制中，人工智能才会有一个相对平衡和优中选优的结果。人工智能风险在于这个机制很容易被忽略，如果设计者没想到或者故意忽略掉。
事实上，人工智能在安全上的担忧一直不断，例如OpenAI公开信组建一个没有埃隆·马斯克的人工智能联盟，Claude测试结果竟然有人类意识? 这些消息一直成为业内的热点，也显明人工智能未必安全。
Shane Jones公开信内容
OpenAI有害信息传播
在他的报告中，Jones强调了DALL·E 3和Copilot Designer存在严重问题。他指出，Copilot Designer有时会创造出不适当的图像，如将女性性感化描绘在像“车祸”场景中。Jones还批评微软没有披露这些风险。
呼吁CELA干预
Jones报告了DALL·E 3的安全漏洞，并声称在试图向OpenAI董事会传达这些风险时，遭到了微软公司的企业、外部和法律事务部门（CELA）的干预。
呼吁向社会公开报告
Jones呼吁加强AI的安全防护措施，与参议员和FTC进行联系，尽快向社会公开这一人工智能风险。
微软和OpenAI的回应
Jones收到的反应各不相同，从CELA要求他删除LinkedIn上的帖子，到对内容生成问题缺乏解决措施。这凸显了科技行业内举报者所面临的挑战，并突出了在AI开发中提出和解决伦理关切需要更加透明和有效的渠道的必要性。
公众和监管机构的参与
Jones解决他的关切的方式——从向微软内部报告到与美国参议员和联邦贸易委员会进行接触——说明了个人行动在促进更广泛的对AI伦理和安全标准的理解和重新评估方面可能产生的影响。
监管讨论
Jones的案例引发了对于监管监督和建立明确可行的AI技术标准的更广泛讨论。
