Raport Gladstone AI: inteligența artificială poate reprezenta o amenințare existentială pentru omenire

Raportul Gladstone AI avertizează că AI ar putea fi o amenințare majoră pentru umanitate, comparabilă cu armele nucleare.

Un raport recent realizat de Gladstone AI pentru Departamentul de Stat al SUA avertizează că inteligența artificială (AI) ar putea reprezenta o amenințare "la nivel de extincție" pentru specia umană. Documentul, care a fost publicat săptămâna aceasta, se bazează pe interviuri cu peste 200 de experți, inclusiv lideri ai companiilor de top în domeniul AI, cercetători în securitate cibernetică și oficiali din domeniul securității naționale.

Raportul descrie două pericole majore asociate cu AI: posibilitatea ca sistemele avansate să fie dotate cu armament și să provoace daune ireversibile și riscul ca dezvoltatorii să "piardă controlul" asupra sistemelor AI, cu consecințe devastatoare pentru securitatea globală. Acesta compară potențialul destabilizator al AI cu cel al armelor nucleare și sugerează că o cursă a înarmării în domeniul AI ar putea duce la conflicte și accidente la nivelul celor produse de armele de distrugere în masă.

Autorii raportului solicită măsuri urgente pentru a contracara aceste amenințări, inclusiv crearea unei noi agenții dedicate AI, impunerea de regulamente și limitarea puterii de calcul folosite pentru antrenarea sistemelor AI. Raportul subliniază necesitatea unei intervenții rapide din partea guvernului SUA pentru a gestiona riscurile asociate cu aceste tehnologii emergente.

Avertismentele din raport se alătură unei liste tot mai lungi de preocupări exprimate de experți și lideri din industria AI, care recunosc potențialul distructiv al tehnologiei chiar și în timp ce investesc miliarde în dezvoltarea ei. Printre aceștia se numără Geoffrey Hinton, cunoscut drept "nașul AI", care a estimat o șansă de 10% ca AI să ducă la dispariția oamenilor în următoarele trei decenii.

Raportul Gladstone AI vine în contextul în care administrația Biden a semnat un ordin executiv privind inteligența artificială, considerat "cea mai importantă acțiune luată de vreun guvern pentru a profita de beneficii, dar și administra riscurile inteligenței artificiale".