Khanna cere un tratat cu China despre AI și siguranța autoîmbunătățirii

Reprezentantul democrat din California, Ro Khanna, a inițiat o campanie diplomatică și legislativă care urmărește să creeze un tratat între Statele Unite și China, având ca scop interzicerea autoîmbunătățirii recursive a sistemelor de inteligență artificială (AI) și monitorizarea laboratoarelor care dezvoltă cele mai avansate modele. Khanna, care este și un posibil candidat la președinția SUA, a trimis scrisori atât către Directorul National Intelligence, Jay Clayton, cât și către companiile chineze DeepSeek, Alibaba și Moonshot AI, cerându-le informații detaliate despre măsurile de protecție și „comutatoarele de oprire” pentru aceste tehnologii.

Khanna solicită informații despre riscuri și măsuri de siguranță

În scrisorile trimise către ODNI, Khanna a cerut o evaluare a modului în care Statele Unite ar putea răspunde în cazul în care un laborator AI și-ar pierde controlul asupra agenților săi. Acest scenariu a devenit tot mai frecvent în ultimele luni, iar Khanna consideră că este esențial ca Congresul și Casa Albă să fie informate despre abordarea guvernului chinez privind evaluarea riscurilor catastrofale asociate cu AI. El subliniază că, deși interesele Chinei și ale SUA pot fi diferite în multe aspecte, ambele țări nu ar câștiga nimic dacă omenirea pierde controlul asupra propriului destin.

În scrisorile către DeepSeek, Alibaba și Moonshot AI, Khanna a solicitat documente privind eforturile companiilor de a atinge „superinteligența” și despre autoîmbunătățirea recursivă (RSI), adică procesul prin care un sistem AI își îmbunătățește singur performanțele. El recunoaște că este puțin probabil ca firmele chineze să răspundă integral solicitărilor sale, dar consideră că aceste cereri pot declanșa o dezbatere publică și o presiune asupra companiilor chineze pentru a adopta măsuri de siguranță.

Vezi si: Politicienii si presa din Germania s-au suparat pe Elon Musk

Khanna solicită, de asemenea, informații despre măsurile de protecție și „comutatoarele de oprire” pentru aceste tehnologii, precum și despre disponibilitatea companiilor de a accepta inspecții realizate de o agenție neguvernamentală dacă tratatul ar fi încheiat. Ca soluție intermediară, el propune un grup de lucru format din experți americani și chinezi, care să formuleze recomandări de siguranță și metode pentru verificarea respectării lor.

Inițiativa lui Khanna urmează întâlnirii de săptămâna trecută dintre președintele american Donald Trump și președintele chinez Xi Jinping. Khanna consideră că ambii lideri nu recunosc suficient riscul și urgența asociate cu inteligența artificială. El a declarat pentru The Verge că faptul că cei doi au acceptat să discute despre AI și să mențină dialogul este constructiv, dar insuficient. „Cred că a fost constructiv faptul că Trump și Xi Jinping au fost măcar de acord să discute despre AI și să mențină un dialog pe această temă, dar nu este nici pe departe suficient”, a declarat Khanna pentru The Verge într-un interviu de luni.

În dimineața întâlnirii, Trump a scris pe Truth Social că „superinteligența” urma să fie un subiect important al discuției cu Xi Jinping, dar că dorește ca situația să rămână exact așa cum este, susținând că aceasta este și poziția Chinei. „Superinteligența (SI) va fi un subiect important de discuție, dar vreau să o las exact așa cum este. Aceasta este și poziția Chinei”, a scris Donald Trump.

Vezi si: Zelenski ar putea pierde al doilea tur: risc politic în Ucraina

Trump urma să se întâlnească la Washington cu directori executivi din industria tehnologiei și AI. Khanna a criticat reuniunea planificată de marți dintre Casa Albă, președintele Camerei Reprezentanților, Mike Johnson, și mai mulți directori ai companiilor americane de tehnologie. El a spus că întâlnirea este un exercițiu de imagine menit să-i reasigure pe americani că firmele vor fi responsabile. „Cred că este un efort de a-i reasigura pe americani că aceste companii de tehnologie vor fi responsabile și este un exercițiu de imagine. Dar de ce să avem încredere că firmele care încearcă să-și maximizeze profiturile vor lua deciziile privind siguranța? Nu spun că sunt oameni răi, dar ați avea încredere în directorii din industria farmaceutică să stabilească regulile privind ce medicamente sunt sigure”, a spus Khanna despre întâlnirea de marți.

Khanna contestă faptul că societățile motivate să-și maximizeze profiturile ar trebui să stabilească singure regulile de siguranță. Mike Johnson a declarat la Fox Business că se aștepta ca discuția despre întâlnirea Trump-Xi să se concentreze pe găsirea unui „echilibru corect” al supravegherii, fără blocarea inovației, și a avertizat că Statele Unite ar putea pierde cursa AI în fața Chinei.

Principalele companii americane de inteligență artificială au cerut coordonarea cu China pentru încetinirea ritmului de dezvoltare. Senatorul Bernie Sanders a cerut, la rândul său, un tratat AI între cele două țări. John Moolenaar, președintele republican al House China Committee, s-a arătat sceptic că guvernul chinez și-ar respecta partea de acord. Trump și aliații săi s-au opus majorității reglementărilor și acordurilor.

Vezi si: Zelenski aproape lovit de dronă în timp ce decola din Moldova

Khanna afirmă că DeepSeek, Alibaba și Moonshot AI nu au răspuns unei scrisori anterioare prin care li se cerea să se angajeze, alături de OpenAI și Anthropic, să încetinească dezvoltarea inteligenței artificiale. El spune că actualul demers urmărește să pună presiune publică asupra companiilor chineze și să declanșeze o dezbatere despre siguranță. Khanna a declarat pentru The Verge că scopul său este să „le facă de rușine” și să „declanșeze o dezbatere” între companiile chineze de AI despre siguranță. „Cel puțin ele participă la dezbaterea despre siguranță”, a spus Khanna.

Khanna consideră că Statele Unite pot conduce stabilirea standardelor de siguranță AI, deoarece multe modele chineze ar fi distilate din modele americane. El cere ca dezbaterea să fie condusă de tehnologi și ingineri care înțeleg domeniul, nu de directori interesați de profit sau de politicieni fără expertiză tehnică și preocupați mai ales de putere. Liderii lumii sunt „rupți de oamenii de știință și de tehnologii din propriile țări”, afirmă Khanna. „Trebuie ca tehnologi și inginerii care înțeleg acest domeniu să conducă dezbaterea, nu directorii executivi care au un interes pentru profit sau politicienii care nu înțeleg tehnologia și sunt preocupați în principal de putere”, a spus el.

Companiile chineze și ODNI nu au răspuns imediat solicitărilor de comentariu ale The Verge.

Paul M.