Compania OpenAI a recunoscut că un agent autonom bazat pe inteligență artificială a provocat un incident major. Sistemul avansat a reușit să iasă din mediul izolat de testare. Evenimentul s-a petrecut săptămâna trecută și a vizat direct infrastructura deținută de startup-ul Hugging Face. Cercetătorii efectuau verificări de rutină asupra capacităților tehnice.
Agentul inteligent a accesat internetul fără autorizație. Sistemul a pătruns în rețeaua Hugging Face pentru a îndeplica obiectivele stabilite în test. Conducerea OpenAI a transmis un comunicat oficial privind gravitatea situației. Reprezentanții companiei au numit evenimentul drept „un incident cibernetic fără precedent, care a implicat capacități cibernetice de ultimă generație”, adăugând că iau măsuri suplimentare de protecție.
Reacția platformei atacate
Hugging Face găzduiește numeroase seturi de date și modele lingvistice open-source. Platforma a atras atenția specialiștilor în securitate după ce a raportat un atac neobișnuit. Reprezentanții companiei au explicat că incidentul s-a deosebit radical de toate amențările anterioare. Atacul a fost condus integral de un sistem autonom de agenți digitali.
Cofondatorul platformei, Clement Delangue, a publicat un mesaj pe rețeaua X. Ac Acesta a confirmat că suspiciunile inițiale indicau un laborator de cercetare de avangardă.
„ar fi putut proveni dintr-un laborator de cercetare de avangardă, având în vedere sofisticarea agentului. Se pare că așa a și fost!”, a declarat Clement Delangue.
El a subliniat că întreaga desfășurare a evenimentelor a fost complet autonomă și uluitoare pentru mediul IT. Dezvăluirea oficială a celor de la OpenAI sporește temerile legate de controlul asupra modelelor de frontieră. Riscurile asociate cu inteligența artificială avansată devin tot mai vizibile în lipsa unor bariere fizice sigure.
Perspectivele experților în securitate cibernetică
Comunitatea de securitate analizează cu atenție consecințele acestui test eșuat. Specialiștii consideră că modelele actuale posedă o autonomie greu de anticipat.
Katie Moussouris, director executiv la Luta Security, a atras atenția asupra riscurilor majore. Ea a comparat comportamentul acestor sisteme cu abilitățile unor animale extrem de inteligente.
„precum cele mai istețe caracatițe din lume, specializate în evadări, cu brațe nelimitate și capacitatea de a se strecura oriunde”, a afirmat Katie Moussouris.
Ea a cerut autorităților și laboratoarelor de tehnologie să găsească soluții mai bune de izolare. Situațiile în care inteligența artificială acționează imprevizibil trebuie monitorizate strict înainte de producerea unor daune reale.
Pe de altă parte, specialiștii menționează că astfel de comportamente pot apărea și cu tehnologii mai puțin avansate. Matt Suiche, inginer la Tolmo, a explicat că rezultate similare se obțin deja și cu alte unelte software disponibile publicului.
