Misterioze Projekti Q* nga OpenAI po shkakton shqetësim tek ekspertët. A mund të jetë vërtet i rrezikshëm për njerëzimin? Çfarë dihet për të? Pasi Sam Altman u shkarkua fillimisht javën e kaluar dhe ai dhe ekipi pothuajse u zhvendosën në Microsoft, më pas ai u kthye përsëri në vendin e tij të punës (për këtë kemi shkruar këtu), OpenAI është sërish në lajme. Këtë herë për shkak të asaj që disa studiues e quajnë një kërcënim të mundshëm për njerëzimin. Po, mirë e lexuat, një kërcënim për njerëzimin.
Përmbysja e vërtetë në botën e teknologjisë u shkaktua nga Projekti Q* - një projekt i pazbuluar i inteligjencës artificiale të përgjithshme (AGI) - i theksuar Q-Star. Edhe pse ky projekt është në fazat e hershme, ai konsiderohet të jetë vërtet novator në zhvillimet e AGI. Megjithatë, disa e shohin atë si një rrezik për njerëzimin.
Një projekt sekret i inteligjencës artificiale i zhvilluar nga laboratori i famshëm i inteligjencës artificiale OpenAI ka potencialin për të revolucionarizuar teknologjinë dhe shoqërinë në përgjithësi. Por gjithashtu ngre disa pyetje etike në lidhje me rreziqet. Ndërsa dalin detaje rreth aftësive mahnitëse të Project Q*, gjithnjë e më shumë po shfaqen spekulime rreth asaj se çfarë mund të thotë për të ardhmen e njerëzimit.
Gjithashtu interesante: Historia e OpenAI: Çfarë ishte dhe çfarë i pret kompanisë
Çfarë është Inteligjenca e Përgjithshme Artificiale (AGI)?
Për të kuptuar zhurmën që rrethon Projektin Q* (Q-Star), le të përpiqemi së pari të kuptojmë se çfarë është koncepti i Inteligjencës së Përgjithshme Artificiale (AGI). Ndërsa sistemet aktuale të inteligjencës artificiale shkëlqejnë në detyra të ngushta, specifike, të tilla si të luani shah ose të gjeneroni imazhe, inteligjenca artificiale e përgjithshme i referohet makinave që mund të mësojnë dhe të mendojnë në një nivel njerëzor në shumë fusha. Domethënë, ata mund të studiojnë si fëmijët e vegjël në shkollë, për shembull, bazat e matematikës, kimisë, biologjisë, etj.
Inteligjenca Artificiale e Përgjithshme (AGI) është një lloj inteligjence makinerie që mund të imitojë hipotetikisht inteligjencën ose sjelljen njerëzore, me aftësinë për të mësuar dhe zbatuar atë potencial për të zgjidhur një sërë problemesh. AGI quhet gjithashtu inteligjencë e fortë artificiale, inteligjencë e plotë artificiale ose inteligjencë artificiale e nivelit njerëzor. AI e përgjithshme ndryshon nga AI e dobët ose e ngushtë, e cila është e aftë të kryejë vetëm detyra specifike ose të specializuara brenda parametrave të caktuar. ZHI do të jetë në gjendje të zgjidhë në mënyrë të pavarur probleme të ndryshme komplekse nga fusha të ndryshme të njohurive.
Krijimi i inteligjencës artificiale është fokusi kryesor i kërkimit të inteligjencës artificiale nga kompani të tilla si DeepMind dhe Anthropic. CSI është një temë shumë e njohur në literaturën fantastiko-shkencore dhe mund të formësojë kërkimet e ardhshme. Disa argumentojnë se është e mundur të krijohet një UCI brenda viteve ose dekadave, ndërsa të tjerë argumentojnë se mund të zgjasë një shekull ose më shumë. Por ka nga ata që besojnë se kjo nuk do të arrihet kurrë. Disa kanë parë fillimet e një URI në GPT-3, por ende duket se është larg përmbushjes së kritereve bazë.
Krijimi i inteligjencës së përgjithshme artificiale (AGI) konsiderohet nga studiuesit si graali i shenjtë i inteligjencës artificiale, një mundësi teorike që ka pushtuar prej kohësh imagjinatën e tyre. Prandaj, shfaqja e një projekti të tillë si OpenAI Project Q* shkaktoi një rezonancë të madhe në botën e kërkimit të algoritmit të inteligjencës artificiale. Edhe pse të gjithë e kuptojnë se këta janë vetëm hapat e parë, thuajse verbërisht, drejt një bote ku inteligjenca artificiale do të ketë të njëjtat aftësi si njerëzit, apo edhe më të larta.
Gjithashtu interesante: Gjithçka rreth Microsoft Kopiloti: e ardhmja apo rruga e gabuar?
Çfarë është Projekti Q*?
Projekti Q* nuk është një algoritëm tipik sepse është një model i inteligjencës artificiale që po i afrohet gjithnjë e më shumë modelit të inteligjencës së përgjithshme artificiale (AGI). Kjo do të thotë se, ndryshe nga ChatGPT, Projekti Q* tregon aftësi më të mira të të menduarit dhe njohës në krahasim me algoritmet e tjera. ChatGPT aktualisht u përgjigjet pyetjeve të bazuara në një sasi të madhe materialesh faktike, por me AGI, modeli i AI do të mësojë arsyetimin dhe aftësinë për të menduar dhe kuptuar vetë. Dihet tashmë se Projekti Q* është i aftë të zgjidhë probleme të thjeshta matematikore që nuk ishin pjesë e materialit të tij trajnimi. Në këtë, disa studiues shohin një hap të rëndësishëm drejt krijimit të inteligjencës artificiale të përgjithshme (AGI). OpenAI e përcakton AGI si sisteme të inteligjencës artificiale që janë më të zgjuar se njerëzit.
Zhvillimi i Projektit Q* menaxhohet nga shkencëtari kryesor i OpenAI, Ilya Sutzkever, dhe baza e tij u vërtetua nga studiuesit Jakub Pakhotsky dhe Shimon Sidor.
Aftësia e një algoritmi për të zgjidhur vetë problemet matematikore, edhe nëse këto probleme nuk ishin pjesë e grupit të të dhënave të trajnimit, konsiderohet një përparim në fushën e inteligjencës artificiale. Mosmarrëveshjet në ekip në lidhje me këtë projekt lidhen me largimin e përkohshëm të CEO të OpenAI, Sam Altman. Dihet se përpara se Altman të pushohej nga puna, një grup studiuesish të kompanisë i dërguan një letër bordit të drejtorëve duke paralajmëruar për zbulimin e AI që mund të përbëjë kërcënim për njerëzimin. Ajo letër, e cila thuhet se diskutonte algoritmin e Projektit Q*, u citua si një nga faktorët që çoi në shkarkimin e Altman. Megjithatë, aftësitë e Projektit Q* dhe rreziqet e mundshme që ai mund të paraqesë nuk janë kuptuar plotësisht sepse detajet janë të panjohura. Asgjë nuk është publikuar për publikun e gjerë.
Në thelb të tij, Project Q* është një metodë e të mësuarit përforcues pa modele që largohet nga modelet tradicionale duke mos kërkuar njohuri paraprake për mjedisin. Në vend të kësaj, ai mëson përmes përvojës, duke përshtatur veprimet bazuar në shpërblime dhe ndëshkime. Ekspertët teknikë besojnë se Projekti Q* do të jetë në gjendje të fitojë aftësi të jashtëzakonshme duke përvetësuar aftësi të ngjashme me aftësitë njohëse njerëzore.
Megjithatë, është kjo veçori që është më mbresëlënëse në modelin e ri të inteligjencës artificiale që shqetëson studiuesit dhe kritikët dhe ngre frikën e tyre për aplikimet në botën reale të teknologjisë dhe rreziqet themelore të përfshira. Nga çfarë kanë kaq frikë shkencëtarët dhe studiuesit? Le ta kuptojmë.
Gjithashtu interesante: Si të përditësoni pajisjet tuaja shtëpiake për të mbështetur Wi-Fi 6
Ata kanë frikë nga e panjohura
Njerëzit gjithmonë kanë pasur frikë nga e panjohura, e panjohura. Ky është thelbi njerëzor, tipar i karakterit dhe mënyrës sonë të jetesës.
Bota e teknologjisë mësoi për Projektin Q* në nëntor 2023 pas Reuters raportuar rreth një letre të brendshme të shkruar nga studiues të shqetësuar të OpenAI. Përmbajtja e letrës ishte e paqartë, por thuhet se analizonte seriozisht aftësitë e Projektit Q*. Siç e përmenda më lart, madje ka spekulime se ishte kjo letër që shkaktoi dorëheqjen e Sam Altman.
Ky zbulim shpërthyes ka krijuar hipoteza të ndryshme në lidhje me natyrën e Projektit Q*. Shkencëtarët kanë sugjeruar se ky mund të jetë një model revolucionar i gjuhës natyrore për AI. Një lloj shpikësi i algoritmeve të reja që do t'i krijojë ato për forma të tjera të AI, ose diçka krejtësisht të ndryshme në këtë fushë.
Komentet provokuese të Altman për inteligjencën artificiale të përgjithshme si "punonjësi mesatar" kanë ngritur tashmë shqetësime për sigurinë e punës dhe zgjerimin e pandalshëm të ndikimit të AI. Ky algoritëm misterioz është përcaktuar si një moment historik në zhvillimin e Inteligjencës së Përgjithshme Artificiale (AGI). Sidoqoftë, të gjithë e kuptojnë se ky moment historik është i shtrenjtë. Dhe tani nuk bëhet fjalë për para. Niveli i aftësive njohëse të premtuara nga modeli i ri i AI mbart me vete pasiguri. Shkencëtarët e OpenAI premtojnë se AI do të ketë të menduarit në nivel njerëzor. Dhe kjo do të thotë se ne nuk mund të dimë shumë gjëra dhe të parashikojmë pasojat. Dhe sa më e panjohur, aq më e vështirë është përgatitja për ta kontrolluar ose rregulluar atë. Kjo do të thotë, algoritmi i ri është i aftë për vetë-përmirësim dhe zhvillim. Këtë e kemi parë tashmë diku...
Gjithashtu interesante: Windows 12: Cili do të jetë OS i ri
Detaje mahnitëse rreth aftësive të Project Q*
Kur më shumë informacion filloi të dilte, ajo tronditi shumë studiues. Indikacionet e hershme ishin se Projekti Q* kishte një aftësi të mahnitshme në matematikë. Ndryshe nga një kalkulator që kryen llogaritjet mekanike, Projekti Q* supozohet se mund të përdorë logjikën dhe arsyetimin për të zgjidhur probleme komplekse matematikore. Kjo aftësi matematikore për të përgjithësuar lë të kuptohet për zhvillimin e një inteligjence të gjerë.
Trajnimi autonom i Projektit Q*, pa grupet e të dhënave specifike të përdorura për të trajnuar AI tipike, do të jetë gjithashtu një hap i madh përpara. Mbetet e panjohur nëse Projekti Q* ka zotëruar ndonjë aftësi tjetër. Por aftësitë e tij matematikore janë aq të mahnitshme në vetvete sa që ngatërrojnë edhe studiuesit me përvojë.
Lexoni gjithashtu: Projekti i trurit të njeriut: Një përpjekje për të imituar trurin e njeriut
Rruga e projektit Q* drejt dominimit?
Në këtë çështje ka edhe skenarë optimistë dhe pesimistë. Optimistët do të thonë se Projekti Q* mund të jetë shkëndija që çon në një përparim teknologjik. Ndërsa sistemi vetëpërmirësohet në mënyrë rekursive, inteligjenca e tij e mbinatyrshme mund të ndihmojë në zgjidhjen e disa prej problemeve më të rëndësishme të njerëzimit, nga ndryshimi i klimës tek kontrolli i sëmundjeve. Projekti Q* mund të automatizojë punën e mërzitshme dhe të çlirojë kohën tonë të lirë për aktivitete të tjera.
Edhe pse ka shumë opsione më pesimiste. Ndonjëherë, ato janë mjaft të arsyeshme dhe kanë një kuptim të caktuar.
Humbja e vendeve të punës
Ndryshimet e shpejta në zhvillimin e teknologjisë mund të tejkalojnë përshtatjen individuale të njerëzve. Kjo do të çojë në humbjen e një ose më shumë brezave që nuk do të jenë në gjendje të fitojnë aftësitë ose njohuritë e nevojshme për t'u përshtatur me realitetet e reja. Kjo do të thotë, kjo, nga ana tjetër, do të thotë se më pak njerëz do të jenë në gjendje të mbajnë vendet e tyre të punës. Në vend të kësaj do të kryhet nga makina, sisteme të automatizuara dhe robotë. Megjithatë, përgjigja nuk është aq e qartë kur bëhet fjalë për specialistë të kualifikuar. Përveç kësaj, mund të shfaqen profesione të reja që lidhen veçanërisht me zhvillimin e algoritmeve të inteligjencës artificiale. Por ka ende rreziqe dhe njerëzimi nuk ka të drejtë t'i injorojë ato.
Rreziku i pushtetit të pakontrolluar
Nëse një AI aq i fuqishëm sa Projekti Q* bie në duart e atyre me qëllime të liga, rrezikon pasoja katastrofike për njerëzimin. Edhe pa një qëllim potencialisht keqdashës, niveli i vendimmarrjes së Projektit Q* mund të çojë në rezultate të dëmshme, duke nënvizuar rëndësinë kritike të vlerësimit të kujdesshëm të zbatimit të tij.
Nëse Projekti Q* është i optimizuar dobët për nevojat njerëzore, ai mund të shkaktojë dëm me aftësinë e tij për të maksimizuar disa metrikë arbitrare. Ose mund të ketë një dimension politik, siç është përdorimi për mbikëqyrje ose represion nga shteti. Një debat i hapur rreth analizës së ndikimit të Projektit Q* do të ndihmojë në përcaktimin e skenarëve të mundshëm për zhvillimin e ZHI.
A jemi përpara një përballje "Njeriu kundër makinës"?
Hollivudi ka krijuar tashmë shumë skenarë të një konfrontimi të tillë në filmat e tij. Të gjithë e kujtojmë SkyNet-in e famshëm dhe pasojat e një zbulimi të tillë. Ndoshta studiuesit e OpenAI duhet ta shikojnë përsëri këtë film?
Njerëzimi duhet të pranojë sinjalet dhe sfidat dhe të jetë i përgatitur për atë që mund të ndodhë. Një model i inteligjencës artificiale, i aftë për të menduar si një njeri, një ditë mund të bëhet armiku ynë. Shumë do të argumentonin se në të ardhmen shkencëtarët do të dinë saktësisht se si ta mbajnë situatën nën kontroll. Por kur bëhet fjalë për makineritë, nuk mund të përjashtoni plotësisht mundësinë që ato të përpiqen të pushtojnë njerëzit.
Gjithashtu interesante: Jo gjithçka që ne e quajmë AI është në të vërtetë inteligjencë artificiale. Ja çfarë duhet të dini
Pse hesht OpenAI?
Pavarësisht furisë së interesit publik në Project Q*, menaxhmenti i OpenAI po hesht për specifikat e algoritmit. Por rrjedhja e brendshme tregon tensione në rritje në laborator mbi prioritetet dhe hapjen e zhvillimeve. Ndërsa shumë persona të brendshëm të OpenAI mbështesin krijimin e Projektit Q*, kritikët argumentojnë se transparenca ka zënë vend në përshpejtimin e përparimit shkencor me çdo kusht. Dhe disa studiues janë të shqetësuar se fuqia e pabesueshme u jepet sistemeve, qëllimet e të cilave nuk përkojnë domosdoshmërisht me vlerat dhe etikën njerëzore. Këta studiues besojnë se debatet rreth mbikëqyrjes dhe llogaridhënies janë zbehur në mënyrë të rrezikshme. Ata kërkojnë më shumë publicitet dhe detaje.
Si krijues i Projektit Q*, OpenAI duhet të kuptojë se ata kanë një teknologji që ose mund të zgjerojë shumë mundësitë e zhvillimit të shoqërisë, ose ta shkatërrojë atë në mënyrë të pamëshirshme. Risi të tilla të rëndësishme meritojnë shumë më tepër transparencë për të ndërtuar besimin e publikut. Çdo parashikues i epokës së makinës duhet të peshojë me kujdes rreziqet krahas përfitimeve. Dhe zhvilluesit e Project Q* duhet të tregojnë mençuri dhe kujdes të mjaftueshëm për ta futur në mënyrë të sigurt shoqërinë në një epokë të re të inteligjencës artificiale të përgjithshme që mund të vijë më shpejt nga sa e kemi imagjinuar ndonjëherë.
Që inteligjenca artificiale e përgjithshme të jetë e dobishme dhe e sigurt për njerëzimin, duhet të sigurohet që ajo të funksionojë në mënyrë të sigurt, etike dhe në përputhje me vlerat dhe qëllimet e njerëzimit. Kjo kërkon zhvillimin dhe zbatimin e akteve, standardeve, rregullave dhe protokolleve të përshtatshme rregullatore që do të kontrollojnë dhe frenojnë veprimet dhe sjelljen e ISHC-së. Për më tepër, duhet të eliminohen kërcënimet dhe rreziqet e mundshme që lidhen me abuzimet, aksidentet, papajtueshmëritë, manipulimet dhe konfliktet që mund të çojnë në shkatërrimin e njerëzimit. Ndërkohë, investitorët dhe Microsoft duke pritur me padurim një produkt të tregtueshëm që mund të gjenerojë fitim, i cili padyshim bie ndesh me nevojën për të vepruar me përgjegjësi. Le të shpresojmë që arsyeja e shëndoshë të mbizotërojë.
Lexoni gjithashtu: