Искусственный интеллект и проблема фальшивых пакетов
Искусственный интеллект (ИИ) всё больше интегрируется в разработку программного обеспечения, создавая потенциальные угрозы в виде генерации несуществующих имён пакетов. Исследования показывают, что коммерческие ИИ-модели генерируют такие имена в 5.2% случаев, а открытые модели — в 21.7%. Это может привести к ошибкам установки ПО, что злоумышленники активно используют, размещая вредоносные пакеты под этими именами в репозиториях как PyPI или NPM.
Новый вектор атак: "слопсквоттинг"
Созданные ИИ "галлюцинации" представляют собой уязвимости в цепочках поставок ПО. Разработчики, использующие ИИ для генерации кода, могут невольно устанавливать вредоносные пакеты, если злоумышленники их заранее разместили. Особенно опасны повторяющиеся имена, создающие иллюзию легитимности. Это явление получило название "слопсквоттинг" по аналогии с типографским захватом.
Сообщество разработчиков и культура "виб-кодинга"
Феросс Абухадиджех, глава компании Socket, отмечает изменение культурных практик среди разработчиков, которые всё чаще копируют ИИ-подсказки без проверки. Такое поведение увеличивает вероятность наткнуться на вредоносную активность, особенно когда злоумышленники создают убедительные внешне пакеты, предлагая поддельные документы и репозитории.
Решения по защите от угроз
Фонд Python предпринимает шаги для повышения безопасности, внедряя функционал для жалоб на потенциально вредоносные пакеты и улучшенные механизмы обнаружения "слопсквоттинга". Разработчикам рекомендуется проявлять повышенное внимание при установке пакетов, проверяя их на наличие и надежность. Использование локальных зеркал репозиториев также становится одной из рекомендуемых мер для ограничения доступа к ненадежным пакетам.
