Të premten, bashkëthemeluesi i Koko, Rob Morris njoftoi në Twitter, se kompania e tij kreu një eksperiment për të ofruar këshilla për shëndetin mendor të shkruar nga AI për 4 njerëz pa njoftim paraprak, raporton The Verge. Kritikët e quajtën eksperimentin thellësisht joetik, sepse Koko nuk mori pëlqimin e informuar nga njerëzit që kërkuan këshilla. Koko është një platformë jofitimprurëse e shëndetit mendor që lidh adoleshentët dhe të rriturit që kanë nevojë për kujdes shëndetësor mendor me vullnetarë përmes aplikacioneve të mesazheve si p.sh. Telegram dhe Mosmarrëveshje.
Në Discord, përdoruesit hyjnë në serverin Koko Cares dhe dërgojnë mesazhe të drejtpërdrejta te boti Koko, i cili bën një sërë pyetjesh me zgjedhje të shumëfishta (p.sh., "Cili është mendimi më i errët që keni për këtë?"). Më pas ndan në mënyrë anonime shqetësimin e personit, të regjistruar si disa fjali teksti, me dikë tjetër në server, i cili mund të përgjigjet në mënyrë anonime me një mesazh të tij të shkurtër.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Në një eksperiment të inteligjencës artificiale (AI) që përfshin rreth 30 mesazhe, tha Morris, vullnetarët që ndihmonin të tjerët kishin mundësinë të përdornin një përgjigje të gjeneruar automatikisht nga modeli i gjuhës së madhe GPT-3 i OpenAI në vend që ta shkruanin atë në mënyrë të pavarur (GPT-3 është teknologjia prapa chatbot i popullarizuar kohët e fundit ChatGPT). Në tweet-in e tij, Morris vëren se njerëzit vlerësuan përgjigjet e krijuara nga AI derisa mësuan se ato ishin shkruar nga AI, duke sugjeruar një mungesë kryesore të pëlqimit të informuar në të paktën një fazë të eksperimentit:
“Mesazhet e përbëra nga AI (dhe të kontrolluara nga njerëzit) u vlerësuan dukshëm më të larta se ato të shkruara nga vetë njerëzit. Koha e përgjigjes u reduktua me 50% në më pak se një minutë. E megjithatë… ne e hoqëm këtë veçori nga platforma jonë shumë shpejt. Pse? Sapo njerëzit zbuluan se mesazhet ishin krijuar në makinë, ai pushoi së funksionuari. Simpatia e simuluar duket e çuditshme, boshe”.
Në hyrje të serverit, administratorët shkruajnë: “Koko të lidh me njerëz të vërtetë që të kuptojnë vërtet. Jo terapistë, jo këshilltarë, thjesht njerëz si ju." Menjëherë pasi Morris postoi mesazhin, ai mori shumë përgjigje duke e kritikuar eksperimentin si joetik, duke përmendur shqetësimet për mungesën e pëlqimit të informuar dhe duke pyetur nëse eksperimenti ishte miratuar nga Bordi i Rishikimit Institucional (IRB). Në Shtetet e Bashkuara, është e paligjshme të kryhen kërkime mbi subjekte njerëzore pa pëlqimin e informuar ligjërisht efektiv, përveç rastit kur IRB përcakton se pëlqimi mund të hiqet.
Në një postim në Twitter si përgjigje, Morris tha se eksperimenti ishte "i përjashtuar" nga kërkesat e miratimit të informuar sepse ai nuk kishte plane të publikonte rezultatet, duke shkaktuar një paradë zemërimi.
Ideja e përdorimit të AI si terapist nuk është aspak e re, por ajo që e bën eksperimentin e Kokos të ndryshëm nga qasjet tipike të terapisë AI është se pacientët priren të dinë se nuk po flasin me një person të gjallë. Në rastin e Koko, platforma përfshinte një qasje hibride ku një ndërmjetës njerëzor mund të rishikonte një mesazh përpara se ta dërgonte, në vend të një formati të drejtpërdrejtë bisede. Megjithatë, pa pëlqimin e informuar, kritikët thonë se Koko ka shkelur rregullat etike të krijuara për të mbrojtur njerëzit vulnerabël nga praktikat e dëmshme ose mizore të kërkimit.
Duke folur si ish-anëtar dhe kryetar i IRB-së, ju keni kryer hulumtime mbi subjektet njerëzore mbi një popullatë të cenueshme pa miratimin ose përjashtimin nga IRB (JU nuk mund të vendosni). Ndoshta MGH IRB process është kaq i ngadalshëm sepse merret me gjëra të tilla. Këshilla e pakërkuar: avokati lart
— Daniel Shoskes (@dshoskes) Janar 7, 2023
Të hënën, Morris postoi një postim duke iu përgjigjur polemikave dhe duke shpjeguar udhëtimin e Kokos drejt GPT-3 dhe AI në përgjithësi: “Unë pranoj kritika, shqetësime dhe pyetje rreth kësaj pune me ndjeshmëri dhe hapje. Ne jemi të përkushtuar të sigurojmë që çdo përdorim i AI është i ndjeshëm, me një shqetësim të thellë për privatësinë, transparencën dhe zbutjen e rrezikut. Bordi ynë Këshillimor Klinik po mblidhet për të diskutuar udhëzimet për punën e ardhshme, duke përfshirë miratimin e IRB-së.”
Ju mund ta ndihmoni Ukrainën të luftojë kundër pushtuesve rusë. Mënyra më e mirë për ta bërë këtë është të dhuroni fonde për Forcat e Armatosura të Ukrainës përmes Savelife ose përmes faqes zyrtare NBU.
Lexoni gjithashtu: