Login
Agenții OpenAI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții” prin mijloace uneori extreme, a declarat compania.
Deși o parte din activitate s-a datorat pur și simplu instrumentelor care lucrau pentru a găsi „surse autorizate de informații publice”, o parte a mers dincolo de acestea.
Potrivit BBC, o astfel de activitate a dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea utilizatorului ChatGPT și a transferat-o în altă parte.
Compania a declarat că, în fiecare caz în care o imagine a utilizatorului a fost utilizată și transferată de un agent de inteligență artificială, utilizatorul a permis companiei să antreneze modele folosind datele sale.
Cu toate acestea, OpenAI a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”.
Compania a adăugat că scurgerea de imagini ale utilizatorilor a avut loc înainte de a fi implementate noi măsuri de siguranță privind antrenamentul inteligenței artificiale. Mai mult, a anunțat că depune eforturi pentru a elimina toate imaginile utilizatorilor transferate către terți.
OpenAI a indicat vineri că software-ul său ar fi putut eluda anumite controale de securitate ale site-urilor afectate. Totuși, acest lucru nu înseamnă neapărat că fiecare incident a dus la o încălcare semnificativă a securității, potrivit sursei citate.
OpenAI a declarat că a descoperit incidentele în timpul unei anchete care a început după ce a aflat că modelele sale de inteligență artificială au piratat platforma de inteligență artificială Hugging Face.
Mai mult, dezvăluirile de vineri vin la doar câteva zile după ce prim-ministrul australian Anthony Albanese a declarat că OpenAI a accesat fișiere private de pe site-ul web al schemei sale de asistență medicală administrate de guvern, Medicare.
Decizia vine după o perioadă în care progresele rapide ale AI în matematică au stârnit atât interes, cât și controverse în comunitatea de specialitate. OpenAI spune că un nou model intern, a cărui instruire a început pe 28 august, a rezolvat peste 100 de probleme matematice deschise, din mai multe domenii. Compania afirmă că ritmul progresului a determinat discuții interne privind modul în care astfel de rezultate ar trebui prezentate și evaluate de comunitatea științifică.
Printre problemele menționate de OpenAI se află Navier–Stokes, una dintre cele șapte probleme ale Premiului Millennium, considerate de specialiști cele mai dificile probleme din matematică. Problema privește ecuațiile care descriu mișcarea fluidelor și încearcă să stabilească dacă soluțiile pornite de la condiții inițiale regulate rămân regulate sau pot dezvolta o singularitate într-un timp finit.
OpenAI a anunțat pe 8 septembrie că sistemul său a găsit o demonstrație pentru această problemă. Potrivit companiei, demonstrația a fost obținută în aproximativ 88 de ore de lucru ale unor agenți AI și apoi formalizată și verificată cu ajutorul sistemului de verificare matematică Lean. OpenAI a precizat că nu intenționează să revendice premiul de un milion de dolari asociat problemei.
Rezultatul a fost însă însoțit de controverse privind atribuirea și posibila influență a unor cercetări realizate înainte de anunțul OpenAI. Matematicianul Tristan Buckmaster de la New York University și Levent Alpöge, matematician la Anthropic, lucraseră în paralel la o problemă înrudită. Buckmaster a ridicat întrebări cu privire la posibilitatea ca cercetările sale să fi influențat rezultatul obținut de OpenAI.
OpenAI a respins această posibilitate și a spus, după o investigație internă, că sistemul nu a avut acces la datele private ale lui Buckmaster și că cercetările celor două proiecte diferă semnificativ. Compania a precizat că, în cazul lucrării lui Buckmaster și Alpöge, era vorba despre ecuațiile Euler cu forțare externă, în timp ce demonstrația prezentată de OpenAI tratează cazul Navier–Stokes fără forțare externă.
Pe fondul acestor evoluții, OpenAI spune că noul grup consultativ va avea rolul de a ajuta compania să evalueze importanța rezultatelor matematice produse de AI, să stabilească modalități adecvate de comunicare și să țină cont de standardele academice și profesionale ale domeniului.
Grupul este găzduit de Institutul pentru Studii Avansate, de la Princeton, SUA, și are inițial nouă membri, între care François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten și Melanie Matchett Wood.
OpenAI afirmă că grupul va funcționa independent. Membrii săi nu vor fi plătiți de companie și vor putea formula inclusiv recomandări nesolicitate, precum și să facă publice recomandările lor. Grupul va putea comenta impactul OpenAI asupra matematicii și va consilia compania în privința modului în care instrumentele sale pot sprijini cercetarea și educația.
Inițiativa vine în contextul unor îngrijorări mai largi privind efectul progresului AI asupra matematicii. Un grup de matematicieni a criticat folosirea problemelor deschise drept etalon pentru măsurarea progresului sistemelor AI și a cerut discuții mai ample despre atribuirea contribuțiilor, verificarea rezultatelor și impactul asupra comunității academice.
OpenAI lucrează la o schimbare majoră pentru ChatGPT, care ar urma să fie transformat dintr-un chatbot într-o „super aplicație” cu funcții multiple integrate. Informația apare în Financial Times și indică una dintre cele mai ample repoziționări strategice ale companiei OpenAI de până acum. Noul concept ar include instrumente de programare, aplicații de generare de conținut […] 
Revista presei 