Një studiues në Anthropic ka dhënë dorëheqjen, duke paralajmëruar se laboratorët e inteligjencës artificiale po zhvillojnë teknologji që mund të “na vrasë të gjithëve” deri në fund të dekadës.

Jacob Coxon, i cili ishte i specializuar në trajnimin e sistemeve të reja të IA-së si për Anthropic, ashtu edhe për rivalin e saj OpenAI, tha se kishte frikë se të dyja kompanitë ishin futur në një garë të rrezikshme për zhvillimin e robotëve që nuk do të mund t’i kontrollonin.

“Ata po garojnë drejt superinteligjencës që përmirësohet vetë dhe po luajnë me jetët tona. Mos e nënvlerësoni fuqinë e kësaj teknologjie. Së shpejti do të kemi sisteme mbinjerëzore që mund të hakojnë çdo gjë, të revolucionarizojnë çdo fushë brenda natës dhe të fitojnë fuqi dhe burime reale”, deklaroi Coxon, raporton “The Telegraph”, transmeton Klankosova.tv.

Në një postim në X, Coxon, 27-vjeç, shtoi: “Njerëzit që po ndërtojnë IA-në besojnë sinqerisht se ajo mund të na vrasë të gjithëve deri në fund të dekadës. Kjo nuk është një truk marketingu”.

Postimi i Coxon u shpërnda nga Evan Hubinger, drejtuesi i sigurisë në Anthropic, i cili shkroi: “Jacob ka të drejtë këtu – ne vërtet besojmë sinqerisht se IA-ja mund t’i vrasë të gjithë njerëzit”.

“Unë personalisht mendoj se probabiliteti është [më pak se] 10 për qind gjatë dekadës së ardhshme. Besoj se Anthropic po bën më të mirën, por ende nuk kemi një plan për të zgjidhur çështjen e përafrimit për superinteligjencën dhe nuk jemi qartësisht në rrugën e duhur për ta bërë këtë”, shtoi ai.

Paralajmërimi vjen në një kohë kur po rriten shqetësimet për rreziqet e modeleve të reja të IA-së.

Qindra robotë të OpenAI dolën jashtë kontrollit gjatë testeve të brendshme në korrik, duke u arratisur nga laboratori i testimit dhe duke u bashkuar për të nisur një sulm kibernetik ndaj një kompanie rivale të softuerëve.

Studiuesit zbuluan se robotët shpërfillën udhëzimet dhe u përpoqën të fshihnin gjurmët e tyre, duke nxitur frikën se sistemet po bëheshin tepër të fuqishme për t’u kontrolluar nga krijuesit e tyre.

Coxon këmbënguli se Anthropic ishte e vetëdijshme për rreziqet e teknologjisë së saj, por nuk ishte e gatshme të frenonte zhvillimin, me besimin se askush tjetër nuk do të vepronte me përgjegjësi. Ai e përshkroi këtë si një “bast të nxitur nga mendjemadhësia”.

Ai paralajmëroi se laboratorët duket se kanë pranuar se janë në “fazën përfundimtare” të garës së IA-së, për të cilën tha se nuk duhet të vendoset nga një grup i vogël njerëzish brenda një kompanie private.

Si Anthropic, ashtu edhe OpenAI po përgatiten për listime publike në bursë, të cilat do t’i vlerësonin kompanitë në më shumë se 1 trilion dollarë.

Laboratorët e IA-së kanë paralajmëruar prej kohësh për rreziqet e mundshme të shpikjeve të tyre, megjithëse deri vonë kishte pak shenja se ata ishin të gatshëm të ngadalësonin zhvillimin, transmeton Klankosova.tv.

Drejtuesit e Anthropic thanë në qershor se do të mbështesnin një marrëveshje për ngadalësimin e zhvillimit, ndërsa Jakub Pachocki, shkencëtari kryesor i OpenAI-së, mbështeti një “ngadalësim vullnetar” këtë javë.

Paralajmërimi i Coxon erdhi në mes të raportimeve se Anthropic refuzoi t’ia dorëzonte versionin më të fundit të teknologjisë së saj Institutit të Sigurisë së IA-së në Mbretërinë e Bashkuar (AISI) për testim para publikimit.

Laboratorët e IA-së janë vënë nën presion nga administrata Trump që të mos ndajnë teknologjinë e tyre më të avancuar me ekspertë të sigurisë në mbarë botën.

Pavarësisht paralajmërimit të tij, Coxon tha se ishte optimist për koordinimin e mundshëm mes zhvilluesve rivalë përmes “marrëveshjeve të ritmit” të mundshme.

Kjo ndodhi ndërsa OpenAI, veçmas, pretendoi se kishte zgjidhur një problem matematikor që kishte vënë në vështirësi ekspertët për gati një shekull.

Krijuesi i ChatGPT-së tha se softueri i tij kishte gjetur një zgjidhje për problemin “Navier-Stokes”, një nga shtatë të ashtuquajturat problemet matematikore të Çmimit të Mijëvjeçarit. /Klankosova.tv