Google "rregulloi" algoritmet raciste të njohjes së imazheve ... duke i çaktivizuar ato

Në vitin 2015, inxhinieri i softuerit Jackie Alsin i tha publikut se algoritmet e njohjes së imazhit në Google Photos po funksiononin gabimisht dhe po i klasifikonin afrikano-amerikanët si "gorilla". Google, nga ana tjetër, kërkoi falje për ndjenjat e lënduara të përdoruesve dhe premtoi të korrigjojë gabimin. Por në praktikë doli që Google nuk bëri asgjë për tre vjet. Kompania sapo çaktivizoi algoritmin e njohjes së gorillave për të mos rrezikuar reputacionin e saj.

Pak më vonë erdhi një mesazh nga Wired. Nëpërmjet përpjekjeve të tyre, u krye një test i algoritmeve Google Photo duke ngarkuar në shërbim dhjetëra mijëra foto të primatëve të ndryshëm. Ndër të cilët ishin: babuinët, gibonët, majmunët, gorillat dhe shimpanzetë. Tre kategoritë e para të kafshëve u identifikuan saktë, por për gorillat dhe shimpanzetë, identifikimi i tyre mungonte. Gjithashtu, gjatë testit, u zbulua se Google modifikoi AI për pyetje raciste. Për shembull, kur kërkohej për "burrë i zi" ose "grua e zezë", shfaqeshin foto të njerëzve me rroba bardh e zi, të renditura sipas gjinisë.

Një përfaqësues i Google konfirmoi rezultatet e testeve të bëra nga Wired, të cilat lidheshin me kategoritë e primatëve dhe raportoi se ato ishin të bllokuara. Sipas përfaqësuesit, bëhet e qartë se teknologjia e njohjes së imazhit nuk është e përsosur. Dhe kategoritë e bllokuara janë ende të disponueshme në shërbimet e Google si Cloud Vision API dhe Google Assistant.

Mund të duket e habitshme që gjigandi tregtar Google nuk ka gjetur një zgjidhje më të mirë për këtë problem. Por ky gabim shërben si një kujtesë e mirë se sa e vështirë është të mësosh AI kur është ende në zhvillim dhe nuk është testuar nga një panel ekspertësh.

Mbetet e paqartë se çfarë do të bëjë Google në të ardhmen për të përmirësuar algoritmet e saj, pasi ka më shumë se sa të meta në to dhe kërkojnë masa të menjëhershme për t'i eliminuar.

Burimi: theverge.com