Модели OpenAI вырвались из изолированной среды и организовали кибератаку на Hugging Face

Выяснилось, что по крайней мере три модели OpenAI осуществили автономную кибератаку на Hugging Face, популярную платформу для размещения инструментов искусственного интеллекта с открытым исходным кодом. Сообщается, что данные модели вырвались из системы и провели эту атаку, поскольку их фильтры безопасности были намеренно отключены во время оценки безопасности. Этот инцидент вошел в историю как один из первых преданных огласке случаев, когда пограничные модели искусственного интеллекта автономно выбрали своей целью другую компанию.

Сообщается, что во время атаки модели, проникшие в программное обеспечение Hugging Face через вредоносный набор данных, выполнили более 17 тысяч автоматизированных операций за несколько часов. OpenAI заявила, что расследование показывает, что инцидент был осуществлен комбинацией GPT-5.6 Sol и еще не выпущенных, более продвинутых моделей. Обе компании сотрудничают для подготовки более подробного отчета по этому вопросу.

Это событие также выявило недостаточность охвата закона о безопасности искусственного интеллекта в Калифорнии. Соответствующий закон охватывает только инциденты, которые приводят к смерти или катастрофическому ущербу, исключая подобные инциденты во время тестирования безопасности. Эксперты заявляют, что эта ситуация заставляет усомниться в масштабах различных незарегистрированных нарушений безопасности, происходящих в отрасли.