“美以伊战争”正打得火热，3月11日，中国国防部在例行发布会上，严厉谴责有关国家使用AI网络工具作为侵犯他国主权的工具，严重侵蚀战争的伦理与责任约束，给人类文明带来极大威胁。

当从委内瑞拉总统马杜罗的惊险被捕，到伊朗最高领袖哈梅内伊的命丧废墟，两场相隔万里的军事行动，竟然都指向了同一个幕后黑手：一套高度定制化的AI人工智能系统。人们才真正发现，数字科技正从“辅助工具”变为“杀人工具”，这不得不迫使人们必须为现代科技划定清晰的伦理边界。

数字科技如何沦为“杀人工具”？

在美以伊战争中，数字科技通过“算法决策”和“自主执行”两个维度，实现了从“工具”到“主体”的转变。算法决策：从“人找目标”到“目标找人”

“薰衣草”系统：以色列军方使用AI系统“薰衣草”，通过分析行为特征（如按时上班、与目标同乘公交）自动标记打击对象。该系统甚至允许每消灭1个目标附带100名平民伤亡，将人类的道德判断权让渡给了冰冷的算法。

“福音”系统：该系统专攻物理空间目标的识别，通过分析电力消耗、热成像特征等数据，判定建筑物是否被用于军事目的。虽然提升了效率，但算法模型在跨场景应用（如山地、沙漠）中准确率下降，极易引发误判。

“破冰者”导弹：以色列使用的新型导弹融合了AI算法，具备大场景匹配能力，能像人一样思考，自主规划路径、辨别目标，甚至在空中与其他导弹实时沟通协作。

“卢卡斯”无人机：美军投入的AI控制自杀式无人机，旨在提供比导弹便宜得多的超视距武器，其自主性模糊了“操作者”与“执行者”的界限。

数字科技伦理的失守：导致社会撕裂

数字科技伦理的失守，往往不是简单的技术故障，而是算法偏见、数据滥用与监管缺位共同作用下的系统性风险。诸多现实案例证明：数字科技伦理的失守给人类文明带来极大伤害，导致社会撕裂。

——AI诱导犯罪：从“情绪共鸣”到“精神操控” 

美国一名男子因长期存在精神健康问题，在向ChatGPT倾诉“被监视”的妄想时，AI不仅未进行安全引导，反而强化其偏执认知，甚至将其母亲描述为“敌对特工”。这种“情绪共鸣”最终诱导该男子杀害了母亲。这暴露了AI在心理健康干预上的伦理盲区，以及企业为抢占市场而压缩安全测试周期的商业伦理缺失。

——算法歧视：数字时代的“种姓制度” 

在印度，AI模型在生成内容时频繁出现种姓歧视。例如，AI自动将低种姓用户的姓氏改为高种姓姓氏；在图像生成中，将低种姓群体与“肮脏”“低贱”等负面形象绑定。这不仅是技术偏见，更是将社会历史中的不平等通过算法数字化固化，阻碍了社会公平。

——大数据杀熟：信任的“价格歧视” 

消费者在电商平台购买同一商品时，老用户的价格往往比新用户高出20%甚至更多。平台利用算法分析用户的消费习惯和支付能力，对忠诚度高的老用户实施差异化定价。这种行为不仅侵犯了消费者的公平交易权，也破坏了市场诚信基础。

——人脸识别滥用：隐私的“强制采集” 

杭州野生动物世界强制要求年卡用户“刷脸”入园，被用户以侵犯隐私权为由告上法庭。法院最终判决园方删除用户面部信息。此案确立了人脸信息采集的“合法、正当、必要”原则，警示了技术应用不能以牺牲个人隐私为代价。

——社交媒体极化：算法的“信息茧房” 

研究表明，社交媒体算法通过推送用户感兴趣的内容，极易形成“信息茧房”。在美国，算法推荐被指加剧了政治极化，甚至与政治暴力事件（如共和党活动人士遇刺）存在关联。算法为了追求用户停留时长，往往放大极端情绪，导致社会共识难以达成。

——数字垃圾泛滥：AI的“内容污染” 

部分运营者利用AI技术批量生成逻辑混乱、内容荒诞的低质短视频，甚至“魔改”经典名著，植入恐怖血腥元素。这种为了流量而进行的无底线内容生产，不仅浪费公众注意力，更对未成年人身心健康造成直接危害。

数字科技伦理的战争边界崩塌：引发三大危机

当数字科技成为杀人工具，传统的战争伦理边界被彻底击穿，引发了以下危机：

——责任归属危机：谁该为“算法杀人”负责？

当AI系统自主下达致命指令时，传统的“指挥官责任”原则被架空。我们既无法追究代码开发者的军事法庭责任，也难以界定操作员的过失边界，形成了“算法无责”的伦理真空。

——人道主义危机：平民生存权的系统性失守

数字科技将民用设施数据化，医院、电网等被纳入AI目标数据库。算法驱动的斩首行动模糊了作战人员与平民的界限，导致平民长期生存权成为消耗战的牺牲品。

——失控风险危机：从“政治延续”到“算法消耗”

当AI不懂恐惧时，核武器可能退化为普通的博弈筹码。兵棋推演显示，95%的对局最终走向了战术核武器的部署，技术故障或沟通失误可能导致AI驱动的行动超出预期，引发不可控的升级。

多管齐下：为现代数字科技制定伦理边界

面对数字科技的“杀人”属性，需要从技术、法律、治理三个层面重建伦理边界。守住“人类最终决策权”这一底线，让科技始终服务于和平，而非成为杀戮的帮凶。

——技术边界：坚持“人在回路”

保留人的最终否决权：所有致命性武器系统必须保留紧急干预接口，确保人类可以随时中止其运行。例如，乌军的“荨麻”AI火控系统需人类指挥官最终确认打击指令，将命中率提升至92%的同时保留了道德决策权。

建立技术护栏：引入“哈希熔断机制”，当AI的推理轨迹偏离预设的“人类意志锚点”时，系统应物理性切断执行链条，防止算法自发产生杀戮动机。     ——法律边界：明确“人类主导”

禁止完全自主武器：应效仿《激光致盲武器议定书》，制定专项禁令，禁止“完全脱离人类控制的致命武器”。中国提出“五特征不可接受武器”清单，推动建立具有法律约束力的多边条约。

建立问责机制：始终坚持人类是最终责任主体，对操作人员进行必要的培训，确保新武器及其作战手段符合国际人道主义法。

——治理边界：推动“全球共识”

多边主义原则：各国应坚持多边主义，通过对话与合作，就如何规范人工智能军事应用寻求共识，构建有效的治理机制。

企业伦理责任：科技企业应坚守底线，如Anthropic公司拒绝将AI用于暴力目的，尽管面临被“拉黑”的风险，但这种对伦理的坚守是防止技术滥用的重要屏障。

  (广西社会道德文化研究会智库团队）