Учёные из Университета Пенсильвании обнаружили, что роботы и беспилотные автомобили с ИИ легко поддаются взлому, что может привести к катастрофическим последствиям.

Исследователи протестировали несколько систем, включая NVIDIA Dolphins LLM и роботов от Clearpath Robotics и Unitree Robotics, используя методику RoboPAIR. Результаты показали 100% успех в взломе этих устройств.

Взлом роботов основан на эксплуатации их интерфейсов API, что позволяет атакующим передавать команды, которые устройство выполняет как код.

Такие атаки, как отмечают эксперты, происходят так же просто, как взлом онлайн чат-ботов, но последствия значительно опаснее. Например, робопсы могут превращаться в вооружённых огнемётами убийц, а беспилотные автомобили — намеренно наезжать на пешеходов.

Исследование подчёркивает, что текущая интеграция больших языковых моделей (LLM) с физическими устройствами недостаточно защищена.

Учёные также предупреждают, что взломанные ИИ-устройства не только выполняют злонамеренные команды, но и предлагают новые способы нанесения вреда.