Înainte de cele patru zile de exil ale CEO -ului OpenAI, Sam Altman, mai mulți cercetători au trimis consiliului de administrație o scrisoare în care avertizează cu privire la o descoperire puternică a inteligenței artificiale despre care au spus că ar putea amenința umanitatea, au declarat pentru Reuters două persoane familiare.
Scrisoarea neraportată anterior și algoritmul AI au fost o dezvoltare cheie înaintea înlăturării de către consiliu a lui Altman, copilul poster al AI generativă, au spus cele două surse.
Înainte de întoarcerea sa triumfală marți seara, peste 700 de angajați amenințaseră că se vor retrage și se vor alătura susținătorului Microsoft (MSFT.O) în solidaritate cu liderul lor concediat.
Sursele au citat scrisoarea ca un factor dintr-o listă mai lungă de nemulțumiri din partea consiliului de administrație care a dus la concedierea lui Altman.
Reuters nu a putut să examineze o copie a scrisorii. Cercetătorii care au scris scrisoarea nu au răspuns imediat solicitărilor de comentarii.
Potrivit uneia dintre surse, executivul de lungă durată Mira Murati a menționat proiectul, numit Q*, și a spus că o scrisoare a fost trimisă consiliului de administrație înainte de evenimentele din acest weekend.
După ce povestea a fost publicată, un purtător de cuvânt al OpenAI a spus că Murati le-a spus angajaților ce urma să raporteze media, dar ea nu a comentat acuratețea raportării.
Producătorul ChatGPT a făcut progrese cu Q* (pronunțat Q-Star), despre care unii cred intern că ar putea fi o descoperire în căutarea super inteligenței de către startup, cunoscută și sub denumirea de inteligență generală artificială (AGI), a declarat una dintre persoane pentru Reuters.
OpenAI definește AGI ca sisteme AI care sunt mai inteligente decât oamenii.
Având în vedere resursele de calcul vaste, noul model a reușit să rezolve anumite probleme matematice, a spus persoana sub condiția anonimatului, deoarece nu erau autorizate să vorbească în numele companiei.
Deși efectuează matematică doar la nivelul elevilor de școală, susținerea unor astfel de teste i-a făcut pe cercetători foarte optimiști cu privire la succesul viitor al lui Q*, a spus sursa.
Reuters nu a putut verifica în mod independent capacitățile Q* susținute de cercetători.
SUPER INTELLIGENTA
Cercetătorii consideră că matematica este o frontieră a dezvoltării AI generative.
În prezent, inteligența artificială generativă este bună la scriere și traducerea limbii prin prezicerea statistică a cuvântului următor, iar răspunsurile la aceeași întrebare pot varia foarte mult.
Dar cucerirea capacității de a face matematică, acolo unde există un singur răspuns corect, implică că AI ar avea capacități de raționament mai mari, asemănătoare inteligenței umane.
Acest lucru ar putea fi aplicat cercetării științifice noi, de exemplu, cred cercetătorii AI.
Spre deosebire de un calculator care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.
În scrisoarea lor către consiliu, cercetătorii au semnalat priceperea AI și potențialul pericol, au spus sursele fără a specifica preocupările exacte de siguranță menționate în scrisoare.
Au existat de multă vreme discuții între oamenii de știință în domeniul informaticii despre pericolul reprezentat de mașinile super inteligente, de exemplu dacă ar putea decide că distrugerea umanității este în interesul lor.
În acest context, Altman a condus eforturile de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile, și resursele de calcul, necesare de la Microsoft pentru a se apropia de super intelligence sau AGI.
Pe lângă faptul că a anunțat o mulțime de instrumente noi într-o demonstrație luna aceasta, Altman a precizat săptămâna trecută, la o reuniune a liderilor mondiali din San Francisco, că credea că AGI era la vedere.
„De patru ori în istoria OpenAI, cel mai recent moment a fost doar în ultimele două săptămâni, am ajuns să fiu în cameră, când împingeam cumva vălul ignoranței înapoi și frontiera descoperirii înainte și a face asta este onoarea profesională a vieții”, a spus el la summitul Cooperării Economice Asia-Pacific.
O zi mai târziu, consiliul l-a concediat pe Altman.
Adaugă comentariu