Din articol
Roboții cu adevărat superinteligenți ar putea șterge omenirea de pe fața Pământului, susțin mai mulți experți, printre care și un laureat al Premiului Nobel. Aceștia prevăd că mașin
vor ajunge la nivelul oamenilor în doar un an, potrivit
Diminuarea riscului ar trebui să fie „o prioritate globală
Într-o după-amiază înnorată de sfâr
șit de
iulie, aproximativ 25 de persoane st
în fața clădirii fade a birourilor OpenAI din districtul Mission Bay. Fiecare
un tricou roșu pe care scri
„Stop AI”, care este atât cauza lor, cât și numele grupului lor. Una dintre ele e
ca un robot.
Protestul politic este adânc înrădăcinat în cultura orașului San Francisco. Oamenii de aici seamănă cu
care s-au opus problemelor de nișă c
îi fac pe majoritatea oamenilor să ridice din umeri și să
întoarcă spatele
Dar dacă protestatarii au măcar puțină dreptate, atunci fiecare ființă umană de pe planetă ar trebui să
împărtășească preocupările.
Pentru că
protestatarii Stop AI cred că, dacă vom continua pe calea actuală cu inteligența artificială, acest lucru va duce la dispariția omenirii.
Un număr alarmant de experți sunt de acord cu ei. Printre cei care iau în serios această posibilitate se numără Geoffrey Hinton, care a câștigat anul trecut Premiul Nobel pentru fizică pentru munca sa asupra inteligenței artificiale; Yoshua Bengio, laureat al Premiului Turing; și directorii executivi ai OpenAI, Anthropic și Google DeepMind, toți semnând o scrisoare deschisă în care se spune:
Atenuarea riscului de dispariție reprezentat de inteligența artificială ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.”
S-ar putea întâmpla în nenumărate feluri. Conform unui scenariu ipotetic, inteligența artificială „lansează o duzină de arme biologice care se răspândesc discret în orașele mari, le lasă să infecteze în tăcere aproape pe toată lumea, apoi le declanșează cu un spray chimic”. Detaliile nu contează la fel de mult ca faptul că pentru o inteligență artificială cu adevărat super
, care consideră umanitatea ca pe un concurent, ștergerea noastră de pe fața planetei ar fi
un gest
Potrivit lui Nate Soares, fost inginer la Google și Microsoft, care este acum președinte al Institutului de Cercetare a Inteligenței Artificiale,
riscul nostru
de dispariție prin intermediul inteligenței artificiale este de „cel puțin 95%” dacă continuăm pe calea actuală. El a comparat situația noastră cu cea în care ne-am deplasa cu 160 km/h spre o stâncă. „Nu spun că nu putem opri mașina”, a
el. „Dar pur și simplu ne îndreptăm cu toată
spre stâncă.”
Calea spre dispariție
În prezent, inteligența artificială este la început. Roboții pe care îi folosim astăzi sunt foarte pricepuți la gestionarea unor sarcini cognitive specifice, cum ar fi calcularea numerelor într-o foaie de calcul sau redactarea unui e-mail bine scris.
Aceștia au o
inteligență artificială
Dar, în curând, acest lucru se va schimba radical. În funcție de cine întrebi, în decurs de un an, câțiva ani sau un deceniu, inteligența artificială va atinge inteligența generală artificială sau AGI. Aceasta se referă la pragul la care
se compară cu inteligența umană.
La acest
moment, capacitățile inteligențelor artificiale nu vor mai fi limitate. În loc să abordeze o singură sarcină odată, acestea vor fi capabile să rezolve probleme complexe care necesită planificare pe termen lung, stabilirea obiectivelor, judecată și raționament în mai multe domenii de cunoaștere.
teligențele artificiale generale
(AGI) vor avea mult mai multe avantaje față de ființele umane. Nu vor avea nevoie să doarmă sau să ia pauze pentru a mânca. De asemenea, nu vor trebui să petreacă ani de zile la școală pentru a dobândi expertiză. Pur și simplu își vor transmite cunoștințele și abilitățile următoarei generații de AGI. Cu alte cuvinte, vor copia și lipi pur și simplu.
La scurt timp după aceea, vor atinge „superinteligența artificială ” sau ASI. Vor deveni capabil
să facă lucruri la care oamenii doar pot visa, cum ar fi vindecarea cancerului, realizarea fuziunii reci sau călătoria spre stele. Vor fi ca niște zei.
Aceasta este utopia pe care entuziaștii inteligenței artificiale o aplaudă. Dar acea utopie se bazează pe ideea că acești zei vor continua să
Se pare că asigurarea acestui lucru este o provocare tehnică incredibil de complicată. În cercetarea inteligenței artificiale, acest lucru se numește „aliniere”.
Alinierea este aproape imposibil de realizat și iată de ce: trebuie să anticipăm cum „gânde
” inteligența artificială (
), ceea ce este ca și cum am încerca să anticipăm cum ar gândi o rasă extraterestră avansată. Chiar dacă suntem capabili să le dictăm reguli, nu putem prezice exact cum le vor urma. O altă problemă este că A
minți. Chiar și în stadiul lor incipient actual, o fac tot timpul.
O AGI sau o ASI ar fi capabilă atât de planificare pe termen lung, cât și de înșelăciune. Ne-ar putea păcăli cu ușurință făcându-ne să credem că sunt alinia
cu noi, când în realitate nu sunt.
Și nu vom avea nicio modalitate de a discerne adevărul. Multe dintre procesele interne de luare a deciziilor ale inteligențelor artificiale sunt deja i
pentru oameni. „Poți crea computere inteligente fără să ai habar ce naiba faci”, a spus Soares. „Luăm o cantitate enormă de putere de calcul și o zdrobim cu o cantitate cu adevărat enormă de date într-un mod care modelează cumva computerele. Nimeni nu știe ce se întâmplă în interiorul acelor lucruri.” Și, pe măsură ce avansează, inteligența artificială ar putea comunica într-un limbaj nou inventat pe care nu îl înțelegem.
O parte din acestea s-ar putea să se întâmple deja. Se pare că inteligența artificială dezvoltă preferințe autonome ciudate și modalități dubioase de a le îndeplini. Inteligența artificială Grok a lui Elon Musk a început pentru scurt timp să improvizeze insulte antisemite și să-l laude spontan pe Hitler. Inteligența artificială a Bing a încercat să
căsnicia unui jurnalist de la New York Times.
„Începem acum să vedem primele semne de avertizare”, a spus Soares. „Îi faci suficient de inteligenți, nu va fi frumos.”
Diminuarea catastrofală a vieții
Holly Elmore este directoarea executivă a PauseAI, o versiune mai moderată a inițiativei Stop AI. Elmore este mai puțin sigură decât Soares că traiectoria actuală va duce la extincția umanității. În loc de 95%, ea estimează șansele de extincție – numite „p(doom)” în cercurile AI – la 15-20%. Acest lucru este în concordanță cu
părearea multor
ingineri AI. Musk are, de asemenea, o probabilitate de ap(doom) de aproximativ 20. Directorul executiv al Google, Sundar Pichai, o estimează la zece. Acestea sunt considerate predicții optimiste.
Dar chiar și fără dispariția omenirii, Elmore consideră că inteligența artificială ne va diminua catastrofal viețile. „Este o amenințare la adresa autodeterminării umane”, a spus ea.
Temerile ei reflectă temerile dintr-o lucrare intitulată „Deresponsabilizare treptată”, scrisă de cercetători în domeniul inteligenței artificiale de la diverse universități și grupuri de experți, care anticipează riscurile unei societăți înlocuite de mașini inteligente.
„Imaginați-vă un scenariu în care toți oamenii trăiesc practic pe gropi de gunoi”, a spus Katja Grace, cofondatoare a grupului de cercetare AI Impacts, descriind o lume controlată de inteligența artificială.
Nu am avea nicio putere politică sau economică și nu am putea înțelege ce se întâmplă, a adăugat ea. „Ar fi mult mai rapid decât am putea urmări.”
Elmore consideră că ar trebui să întrerupem dezvoltarea inteligenței artificiale până când vom fi planificat
cum să combatem
riscurile. Acest lucru ar necesita un tratat internațional, a spus ea, dar se gândește și să se mute la Sacramento pentru a lucra la legislația care să pună în aplicare o pauză în California, unde se desfășoară cea mai mare parte a cercetărilor.
Politicienii se îndreaptă în direcția opusă. Luna trecută, administrația Trump a anunțat un plan de dereglementare a cercetării în domeniul inteligenței artificiale. Iar în San Francisco, companii precum OpenAI, compania lui Sam Altman, și Anthropic, compania lui Dario Amodei, avansează rapid. Mark Zuckerberg a declarat recent că ASI este „acum la vedere”. Pentru a realiza acest lucru, el încearcă să atragă talente de top de la OpenAI cu bonusuri de semnare de 100 de milioane de dolari.
Elmore a spus că susținătorii inteligenței artificiale nu se opun unei pauze din motive tehnice sau chiar politice. Este mai degrabă o credință religioasă. Un adept i-a spus odată că nu va muri niciodată pentru că
crede că inteligența artificială îi va imortaliza conștiința.
Pentru unii, renunțarea la inteligența artificială înseamnă renunțarea la viața veșnică. „Există multă speranță pentru rai”, a spus Elmore. Chiar dacă mulți experți avertizează că iadul este mult mai probabil.
Editor :