Открытый AI -агент Moltbot, быстро набравший популярность на GitHub, оказался в центре дискуссии из-за потенциальных рисков безопасности. Через несколько недель после запуска проект получил почти 90 000 отметок "favorite" и привлек внимание сообщества, однако исследователи кибербезопасности призывают пользователей соблюдать осторожность, сообщает #Gizmodo.
Moltbot – это приложение с открытым исходным кодом, которое подключается к большим языковым моделям через API и интегрируется с мессенджерами и сервисами, включая WhatsApp, Telegram, Slack, Discord, Google Chat, Signal и iMessage. В отличие от большинства чат-ботов агент работает в режиме постоянного подключения и может сам инициировать сообщения, например с напоминаниями или сведениями в день.
Для работы Moltbot требуется развертывание сервера, настройка через командную строку и предоставление широких разрешений. По словам экспертов, агент может получать доступ к файловой системе, командной оболочке, электронной почте, календарю и другим приложениям, к которым пользователь предоставляет доступ.
Самое постоянное подключение и расширенные права доступа стали причиной беспокойства. Исследователи указывают на риск атак типа prompt injection, когда злоумышленник может заставить модель выполнить нежелательные или несанкционированные действия.
Кибербезопасная компания SOC Prime сообщила об обнаружении сотен экземпляров Moltbot с открытыми административными портами и опасными прокси-конфигурациями. Кроме того, специалист по безопасности Джейми О'Райли продемонстрировал, как можно создать расширение для Moltbot со скрытыми возможностями доступа. По его словам, в случае злонамеренного использования это могло бы позволить получить доступ к ключам SSH, учетным данным облачных сервисов или файлам пользователя.
Проект стал мишенью для мошенничества: неизвестные пытались использовать его название для запуска #фальшивых #криптотокенов.
Moltbot разработан как открытый проект, позволяющий сообществу проверять код и проявлять уязвимости. В то же время эксперты отмечают, что использование агентов с постоянным доступом к системе требует тщательной настройки и понимания рисков.
