S-a vorbit de zeci de ani despre ideea că inteligența artificială va distruge omenirea. Vom putea controla un computer de nivel înalt super inteligent? În 2021 oamenii de știință au dat verdictul, cel mai probabil nu va putea fi controlată.
Problema este că controlul unei super inteligențe mult dincolo de înțelegerea umană ar necesita o simulare a acesteia pe care să o putem analiza și controla. Dar dacă nu reușim să o înțelegem, este imposibil să creăm o astfel de simulare.
Reguli precum „să nu faci rău oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii cu care va veni o asemenea AI, sugerează autorii noii lucrări. Odată ce un sistem computerizat funcționează la un nivel superior față de cel al programatorilor noștri, nu mai putem stabili limite.
„O super inteligență pune o problemă fundamental diferită de cele studiate în mod obișnuit sub steagul eticii robotului”, au scris cercetătorii.
„Acest lucru se datorează faptului că o super inteligență are mai multe fațete și prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile.”
O parte din raționamentul echipei a venit din “halting problem” prezentată de Alan Turing în 1936. Problema se concentrează pe a ști dacă un program de calculator care nu poate ajunge la o concluzie și nu are un răspuns se oprește, sau pur și simplu încearcă la nesfârşit să găsească unul.
După cum a demonstrat Turing, putem afla asta pentru anumite programe specifice dar este imposibil să găsim o modalitate care să ne permită să aflăm acest lucru pentru fiecare program care ar putea fi scris vreodată.
Asta ne readuce la AI, care într-o stare de super inteligentă, ar putea reține simultan în memorie fiecare program de calculator posibil. Orice program scris pentru a opri AI să dăuneze oamenilor sau să distrugă lumea de exemplu, poate ajunge la o concluzie și se oprește sau nu.
Este imposibil din punct de vedere matematic să fim absolut siguri de acest lucru ceea ce înseamnă că o super inteligentă nu poate fi controlată.
„De fapt, acest lucru face ca algoritmul de izolare să fie inutilizabil”, a declarat informaticianul Iyad Rahwan de la Institutul Max-Planck pentru Dezvoltare Umană din Germania.
Alternativa de a preda inteligenței artificiale ceva etică și de a-i spune să nu distrugă lumea (ceva ce nici un algoritm nu poate fi absolut sigur că o poate face) ar limita capacitățile super inteligenței.
Ar putea fi deconectat de la anumite părți ale internetului sau de la anumite rețele, de exemplu. Studiul a respins și această idee, sugerând că ar limita raza de acțiune a inteligenței artificiale. Argumentul spune că, dacă nu o vom folosi pentru a rezolva probleme dincolo de sfera de înţelegere a oamenilor, atunci de ce să o mai creăm?
Este posibil ca nici măcar să ne dăm seama când devine o super inteligență aflată deja în afara controlului nostru. Asta înseamnă că trebuie să începem să ne punem câteva întrebări serioase despre direcțiile în care mergem.
„O mașină super inteligentă care controlează lumea sună science fiction, dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum le-au învățat. Așadar se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”. a spus informaticianul Manuel Cebrian de la Institutul Max-Planck pentru Dezvoltare Umană.
Articol de Răzvan Lupu
