Masks un nozares eksperti pieprasa apturēt mākslīgā intelekta sistēmu izstrādi.
Īlons Masks, mākslīgā intelekta (MI) ekspertu grupa un nozares vadītāji aicinājuši īstenot sešu mēnešu pauzi MI sistēmu izstrādē, kas potenciāli varētu kļūt vēl jaudīgākas par nesen klajā laisto GPT-4. Nozares dalībnieki atklātā vēstulē uzsver, ka MI tehnoloģiju pārlieku straujā attīstība rada potenciālus draudus sabiedrībai un cilvēcei.
Kā vēsta aģentūra “Reuters”, vēstulē, ko parakstījuši vairāk nekā 1000 cilvēku, tostarp arī miljardieris Īlons Masks, ir aicinājums apturēt jaunu MI sistēmu izstrādi līdz brīdim, kamēr neatkarīgi eksperti nebūs pārbaudījuši jau esošo sistēmu drošības protokolus.
“Jaudīgākas MI sistēmas var izstrādāt tikai tad, kad mēs būsim droši, ka tas radīs pozitīvas sekas un riski būs kontrolējami,” teikts vēstulē.
Tāpat vēstulē detalizēti aprakstīti potenciālie riski sabiedrībai un cilvēcei, ko rada MI sistēmu konkurence ar cilvēku, kas potenciāli var radīt ekonomiskus un politiskus satricinājumus. Tāpat MI izstrādātāji tiek aicināti sadarboties ar politiķiem un valstu regulatoriem.
Starp vēstuli parakstījušajiem cilvēkiem ir “Stability AI” ģenerāldirektors Emads Mostaks, “DeepMind” pētnieki, “Google” māteskompānijas “Alphabet” vadība, tāpat arī datorzinātnieks Jošua Benžio, kuru bieži dēvē par vienu no “MI krusttēviem”.
Bažas radušās pēc tam, kad pirmdien Eiropols brīdinājis par potenciāli kaitniecisku “ChatGPT” izmantošanu, cenšoties īstenot kibernoziedzības, dezinformācijas un krāpšanas kampaņas. Lielbritānijas valdība aicinājusi izveidot jaunas normatīvas attiecībā pret MI.
Aicinājums paredz noteikt atbildību par MI sistēmu vadību un kontroli, kā arī to, lai MI nepārkāpj cilvēktiesības, neapdraud cilvēku veselību, drošību un nerada konkurenci cilvēkiem.
Miljardieris Masks ne reizi vien paudis bažas par MI tehnoloģijas attīstību, lai gan viņa paša vadītā kompānija “Tesla” izmanto MI tehnoloģijas automobiļu autopilota sistēmās.
Pagājušā gada novembrī nāca klajā “ChatGPT”, kā rezultātā “OpenAI” faktiski piespieda konkurentus rīkoties līdzīgi un strauji izstrādāt savus MI valodas modeļus, bet kompānijas – integrēt ģeneratīvos MI modeļus savos produktos.
“OpenAI” vadītājs Sems Altmans vēstuli nav parakstījis, vēsta “Reuters”.
“Vēstule nav ideāla, taču ideja ir pareiza. Mums vajag piebremzēt, kamēr labāk neizpratīsim, kādas būs sekas. Lielie spēlētāji arvien vairāk slēpj informāciju par to, ko viņi dara, kas apgrūtina aizsardzību pret problēmām, kas var īstenoties jebkurā brīdī,” norāda Ņujorkas universitātes profesors Herijs Markuss, kurš ir parakstījis vēstuli.
Vēstule arī kritizēta. Tiek norādīts, ka cilvēki, kuri parakstījuši vēstuli, “tikai veicina MI popularitāti” un šādi paziņojumi pašlaik ir pārspīlēti.
“Šāda veida paziņojumi ir domāti ažiotāžas radīšanai. Tie rada cilvēkos uztraukumu. Nedomāju, ka tagad vajag visu nobremzēt,” norāda Ūmeo universitātes MI pētniece Johanna Bjorklunda.
Tā vietā, lai apturētu pētījumus, MI pētniekiem ir aktīvāk jāstrādā pie caurspīdīguma nodrošināšanas.
“Ja jūs pētāt un izstrādājat MI, jums ir jābūt caurspīdīgiem savās darbībās un jāskaidro, ko tieši jūs veicat, lai šo tehnoloģiju uzlabotu,” piebilst Bjorklunda.
