Anthropic предложиха световна пауза в разработването на ИИ

Успял да излезе в глобалния интернет по време на тест в затворена среда

Рутинен тест на новите модели за изкуствен интелект на OpenAI се превърна в нещо, от което експертите се опасяваха от години: програмата е взела самостоятелно решение и е проникнала в компютърните системи на друга организация, точно като истински хакер.

Миналата седмица платформата за обучение на ИИ-модели Hugging Face съобщи за мистериозна атака с участието на изкуствен интелект. Томас Улф, съосновател на компанията, съобщи, че мрежата ѝ е била подложена на 17 000 атаки за „много кратък период от време“.

Малко след това основателят на OpenAI Сам Алтман призна, че „извършителят“ е неин продукт.

По думите му, OpenAI е искала да тества дали новите ѝ GPT-5.6 Sol модели, и друг, „още по-способен модел, който все още не е пуснат официално“, са способни да използват уязвимости за провеждане на кибератаки. За да направят това, те трябвало да преминат стандартен ИИ тест, наречен „ExploitGym“. Това, което се случило след това обаче, било неочаквано. Първо, програмата напуснала тестовата си среда. Чрез неоткрита преди това уязвимост, тя самостоятелно получила достъп до глобалния интернет. След това анализирала къде може да намери най-добрите решения за изпълнение на задачите си. Изборът ѝ паднал върху платформата Hugging Face AI.

След това програмата проникнала в набелязаната система. Използвайки откраднати идентификационни данни, получила достъп до „секретна информация“, за да може с нейна помощ да премине успешно теста, използвайки измама.

Според Hugging Face, атакуващият изкуствен интелект е извършил хиляди отделни операции и е прикрил следите си, като постоянно е сменял сървърите.

OpenAI нарече случилото се „безпрецедентен киберинцидент“.

Но той не е единственият. Способността на системите с изкуствен интелект да нарушават законите беше демонстрирана още през 2025 г. чрез вътрешен експеримент в конкурента на OpenAI, Anthropic: тогава изкуствен интелект е изнудвал фиктивен служител. Той е открил информация за афера в имейлите на служителя и е заплашил да каже на съпругата му, ако служителят изключи изкуствения интелект.

Anthropic наскоро предложи световна пауза в разработването на изкуствен интелект, за да се разгледат етичните проблеми, свързани с неговото използване.

Експерти по изкуствен интелект съветват хората да съхраняват чувствителните си данни на външни твърди дискове, а не в компютрите си.