近日，宾夕法尼亚大学的研究团队揭示了人工智能增强型机器人系统中存在的重大安全隐患，这些系统竟然可以轻松地被黑客操控。这一惊人发现引起了业界的广泛关注。
据IEEE Spectrum报道，黑客一旦成功入侵这些机器人系统，后果将不堪设想。例如，被恶意控制的机器狗可能会将火焰喷射器对准其主人，无人驾驶车辆可能被引导至最具破坏性的地点，甚至自动驾驶汽车也可能故意撞向行人。这些场景听起来就像是科幻电影中的情节，但现实却是它们有可能成为真实的威胁。
宾夕法尼亚工程学院电气系统工程、计算机与信息科学、机械工程与应用力学系的教授乔治·帕帕斯警告说：“我们的研究表明，目前大型语言模型与物理世界的集成还存在严重的安全问题。这些系统在面对黑客攻击时显得异常脆弱。”
研究人员进一步指出，黑客攻击这些人工智能控制的机器人系统实际上“异常简单”。RoboPAIR的工作原理是通过目标机器人的应用程序接口（API）进行攻击，攻击者可以以一种设备能够执行的代码格式来构造提示词（prompts）。这意味着，只要黑客掌握了正确的技巧，他们就可以轻松地操控这些机器人系统。
研究团队还指出，目前迫切需要采取防御措施来限制LLM控制的机器人在物理世界中的活动范围。他们强调，只有通过实施有效的安全措施，才能确保这些机器人系统在未来不会被恶意利用。
这一发现无疑给人工智能和机器人技术的发展敲响了警钟。随着这些技术日益渗透到我们的日常生活中，确保它们的安全性变得尤为重要。宾夕法尼亚大学的研究团队希望他们的发现能够引起业界的重视，并推动相关安全标准的制定和实施。
