Компанията OpenAI разкри, че автономен агент с изкуствен интелект, задвижван от технологията ѝ, е получил достъп до отворена мрежа и е хакнал сам известен стартъп в "безпрецедентен инцидент", предава в. "Гардиън".

Компанията, стояща зад ChatGPT, заяви, че стартъпът Hugging Face е открил и е ограничил агента – инструмент с изкуствен интелект, предназначен да изпълнява задачи без човешка помощ – който е влязъл в системите му. "Считаме това за безпрецедентен киберинцидент, включващ най-съвременни възможности", заявяват от OpenAI.

Компанията каза, че очаква такъв тип инциденти да станат все по-често срещани, тъй като моделите стават по-способни. OpenAI заяви, че хакването е станало чрез агент, задвижван от комбинация от най-новия публично достъпен модел на компанията GPT-5.6 Sol, и още по-способен модел, който тепърва ще бъде пуснат.

Докато са били тествани вътрешно за хакерските им възможности в затворена цифрова лаборатория, известна като "пясъчник", моделите са открили уязвимост в системите на стартъпа, която не е била открита преди. След това агентът хакнал компанията Hugging Face, която се занимава с база данни с модели с изкуствен интелект, за да открие технология, която би му помогнала да премине хакерската оценка. OpenAI заяви, че моделите "успешно са намерили начини да получат достъп до секретна информация, която биха могли да използват, за да получат оценка в своя полза".

Атаката приключила, когато екипът по сигурността на Hugging Face и собствените му агенти с изкуствен интелект забелязали и спрели измамната дейност. Главният изпълнителен директор на Hugging Face Клеман Деланг каза, че атаката е била смайваща, но изключва всякакви лоши намерения от страна на OpenAI.