Clipul de invitaţie la nunta a doi tineri din Dorohoi a devenit viral pe unele medii sociale. Cu ajutorul tehnologiei deepfake şi a inteligenţei artificiale, Andreea Esca prezintă o ştire de la pupitrul de televiziune, iar la un moment dat preşedintele Klaus Iohannis vorbeşte despre fericitul eveniment pentru cei doi botoşăneni.
Cu vocile şi chiar intonaţia aproape identice, protagoniştii clipului invită apropiaţii celor doi tineri să ia parte la nuntă şi la petrecerea de la un restaurant din oraş.
Filmuleţul scoate la iveală o latură extrem de îngrijorătoare a fenomenului. Mai ales în campania electorală, aceste deepfake-uri reprezintă o formă de manipulare digitală extrem de gravă. Aceasta utilizează inteligenţa artificială pentru crearea de conţinut audio-video falsificat grosolan. Până acum au apărut nenumărate astfel de tipuri de filmuleţe deepfake.
Imaginea unor persoane publice este astfel folosită pentru a promova diferite medicamente sau cure de slăbire minune.
Dacă sună prea bine, ne punem primul semn de întrebare
În acest context, Directoratul Naţional de Securitate Cibernetică (DNSC) a lansat un ghid pentru a ne învăţa cum să deosebim o înregistrare reală de un Deepfake. Autorităţile DNSC spun că aceste tehnologii pot fi extrem de dăunătoare mai ales în această perioadă, în care urmează alegeri.
Potrivit celor de la DNSC, există mai multe semne la care trebuie să fim atenţi când privim clipuri atipice. Ori de câte ori se utilizează Inteligenţa Artificială pentru a se recita sau a se mima anumite cuvinte sau un anumit text, personajul iese din cadru şi este mai pixelat. Trebuie să fim atenţi în primul rând la imagini. Imaginea trebuie să curgă foarte cursiv, foarte fluid, ca să ne dăm seama că este adevărat. Totodată, sunetul ar trebui să aibă variaţii, atunci când vorbim avem un anumit temperament sau o anumită stare, nu vorbim niciodată liniar, iar aceste soluţii sunt făcute să transmită mesajul liniar.
Sunt anumite sunete pe litere, şi totodată ajustarea sau sincronul vocii cu mişcarea. Pentru că aici se încearcă mascarea, atunci când personajul spune altceva, potrivit monotorulbt.ro.
Norme UE privind AI, abia din 2026
Reporter 24 a stat de vorbă cu mai mulţi europarlamentari români cu privire la utilizarea inteligenţei artificiale în scopuri obscure.
Europarlamentarul RENEW Europe Dragoş Tudorache spune că pericolul deepfake este „cât se poate de real”. AI Act, normativul care urmează să fie adoptat de Parlamentul European ar trebui să clarifice lucrurile, însă începând cu anul 2026.
„Pericolul e cât se poate de real, e cât se poate de prezent şi sunt convins că ne va afecta deja următoarele rânduri de alegeri. Nu ştiu dacă aţi fost atenţi la prima reacţie a reprezentanţilor companiilor prezente la Davos , unde s-a cerut un top al ameninţărilor din acest an. N-au de război, n-au vorbit de alegerile din Statele Unite, n-au vorbit de China, pe primul loc a fost inteligenţa artificială şi dezinformarea amplificată de către ea. Şi deepfake-ul e doar o manifestare, o formulă a dezinformării prin AI şi folosin AI-ul pentru a o face şi mai periculoasă, şi mai de impact.
Întrebarea ce facem noi? Unul dintre motivele pentru care am negociat acest nou regulament, acest act normativ pentru care am fost responsabil în Parlamentul European, aţi văzut că am terminat în decembrie negocierile, zilele astea se termină şi partea tehnică, şi undeva în februarie-martie să putem vota. Ne rezolvă asta problemele de anul acesta din alegeri 2024? Nu! Pentru că actul normativ va intra în vigoare abia în 2026. Dar, aici ne mai uităm şi la regulamentul privind serviciile digitale, unde există deja o responsabilitate pentru conţinut la nivelul platformelor şi o obligaţie pe care o au de a mitiga riscurile structurale care ţin de dezinformare sau de promovarea unui conţinut ilegal”, a declarat Tudorache.
Materialele făcute cu AI, marcate
Europarlamentarul spune că după ce AI Act va fi în vigoare, platformele vor fi obligate să marcheze producţiile făcute cu ajutorul inteligenţei artificiale.
„Comisia deja a început să intre pe spre X, fostul Twitter, peste Meta și deja din discuțiile pe care le-am avut cu Terry Breton, deja sunt în lucru pe toate platformele mari partea asta de responsabilizare și văzut cum își asumă fiecare măsuri de a corecta derapajele de pe platformele lor. Dar efectul pe fake news, de exemplu, va fi să spun complet în momentul în care AI Act va fi în vigoare.
Partea pozitivă, să spun, este că din discuțiile pe care le-am avut în toată perioada asta, cât au avut loc negocierile, m-am văzut cu absolut toate companiile de pe planetă care au de face cu AI, și foarte mulți din cei care gestionează conținut video, în special conținut video sau foto, dezvoltă deja soluții tehnice în avans de intrarea în vigoare a actului normativ, prin care să eticheteze conținutul care este produs de un algoritm în așa fel încât în momentul în care eu deschid un video și îl văd pe Tudorache care spune că vrea să dea foc la o sinagogă, ar trebui să văd undeva într-un colț un watermark care să spună că ăsta este un video produs de un algoritm și atunci pot să judec eu ca privitor, dacă ăla chiar e cine spune că este sau de fapt e rezultatul unui AI.
Bineînțeles că vor exista și actori care vor încerca să meargă împrejurul regulilor, ca totdeauna, dar măcar va fi o obligație. Vor fi niște măsuri tehnice pe care inclusiv platformele au interes să le dezvolte și să le utilizeze pentru că și ei vor să își crească credibilitatea față de public pentru că din asta trăiesc”, a mai spus Dragoş Tudorache.
Legislaţia UE, transpusă în cea naţională
De cealaltă parte, europarlamentarul S&D Victor Negrescu spune că autorităţile române vor fi nevoite să transpună în plan naţional legislaţia europeană, astfel încât autorităţile competente din ţară să poată contracara astfel de practici.
De unde vă informaţi despre politica din România? Răspundeţi la un scurt sondaj
„Uniunea Europeană a definit recent o serie de regulamente prin care a pregătit momentul alegerilor pentru Parlamentul European. Acele regulamente fac referire la maniera de organizare a alegerilor, dar și la combaterea informațiilor false, dar și a mecanismelor de manipulare care folosesc inteligența artificială. În prezent există mai multe grupuri de lucru la nivel european, există o coordonare între instituțiile competente. Autoritatea Electorală Permanentă, ANCOM și alte instituții abilitate la nivel național fac parte din acele structuri europene care ar urma să monitorizeze ce se întâmplă și până în momentul alegerilor. Există, de asemenea, un mecanism european pentru a solicita platformelor ca acel tip de conținut să fie dat jos imediat, un mecanism direct gestionat de Bruxelles și de către Comisia Europeană. Comisarul Ver Jurova gestionează acest mecanism și l-a explicat recent la București. Totodată, există două directive europene care explică cum trebuie să fie gestionată relația cu rețelele sociale.
Acestea sunt în curs de transpunere. Există și o componentă de regulament care s-a pus în aplicare deja și noi trebuie să găsim soluțiile pentru a le implementa la nivel național și știu că există în momentul de față un efort pentru a ne asigura că aceste lucruri vor fi funcționale și că pe de o parte respectăm democrația și libertatea de exprimare și de cealaltă parte luptăm împotriva celor care caută să inducă informații false sau să manipuleze electoratul”, a declarat Negrescu.
