人工智能幻觉几乎引发美国军事行动

今年春天，当美国官员发现一个令人震惊的发现时，军用飞机已经在空中飞行：推动针对中国船只的武装行动的情报是由人工智能聊天机器人产生的。据美国有线电视新闻网（CNN）周五报道，该行动在最后一刻被中止，险些避免了与中国的潜在冲突。这一事件凸显了军方官员和外部专家日益增长的担忧：随着决策者越来越依赖人工智能，这些系统产生的错误可能会在受到质疑之前传递到指挥系统。这份情报报告在与伊朗的战争期间流传，称该船载有核武器计划的零部件。这些虚假情报起源于特种作战司令部的一名分析师，他询问人工智能聊天机器人将开源数据与机密信号情报合成。聊天机器人错误识别了这艘船的货物清单。然后，这名分析师第二次使用该工具，将错误的发现格式化成一份官方的总结，并在指挥渠道中分发。这一险些失败的事件发生之际，美国军方正竞相整合人工智能，以加快决策速度，保持对中国的优势。五角大楼称人工智能在加快杀伤链方面具有显着优势，以便指挥官能够在正确的时间做出反应。但人工智能具有吸引力的速度也可能会在人类监督不足的情况下出现幻觉。GovAI研究学者、美国陆军资深军官杰克·斯特克勒（Jake Steckler）在给TechCrunch的书面回应中表示：“对于军人来说，了解法学硕士固有的不确定性非常重要。”“但这对于任何可能导致使用武力的决定尤其重要，例如瞄准、情报分析或行动规划。这些决定会带来生死攸关的后果。”尽管如此，斯特克勒表示，这一事件应该成为为人工智能添加更多保障措施的呼吁，而不是避免它的理由。“这些工具可以在

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。