随着先进科技在军事领域的深入融合，人工智能与武器系统的结合所带来的风险和伦理问题日趋成为国际关注的焦点。
第十三届香山论坛于9月15日在北京国际会议中心拉开序幕，论坛以「凝聚稳定共识、同促安全治理」为核心议题，紧贴国际安全领域当前最突出、最紧迫的重大课题。论坛设置兼具战略高度的宏观分析与务实领域的微观探讨，从多维角度阐释主题内涵。
论坛期间组织了多场高端对话活动，围绕中美战略稳定关系构建、乌克兰局势、中东和平进展、人工智能与未来战争等核心议题设置闭门研讨会，为与会各方创造了深度交流与消除疑虑的重要机制。
就人工智能技术与武器在军事作战中的具体应用，现任葡萄牙里斯本自治大学研究员、前北约国际军事参谋部合作与地区安全司司长卡洛斯·布兰科少将在论坛采访中表示，当前人工智能技术在实战中的验证仍不够充分。尽管最新型无人机系统已广泛集成AI技术，乌克兰冲突提供了大规模实战应用的案例，但这也同时暴露了诸多伦理层面的复杂问题。
“机器能否自主决策的界定问题，正是当代军事AI应用面临的核心困境，”布兰科强调。他以美以冲突中的空中轰炸事件为例说明，那次军事行动几乎完全由人工智能在缺乏人类监管的状态下执行。”倘若当时存在人类的介入和制约，这起悲剧很可能会被有效阻止。这充分说明我们对人工智能的应用前景和潜在风险的理解还远远不够。”
