0
Ustaljeno mišljenje u automobilskoj industriji je da će kontrolu nad vozilima u skorijoj budućnosti preuzeti veštačka inteligencija, ali u više istraživanja se pokazalo da samovozeći automobili imaju određenu dozu diskriminacije, a da su u najvećoj opasnosti deca.
Kako biste reagovali kada biste na putevima svog grada videli automobil u kojem nema vozača? Da li biste takvom vozilu, iza kojeg stoje napredna tehnika i algoritmi, verovali više nego ljudima koji sede za volanom? Ako pitate ekipu iz Googlea, tačnije njihove kompanije za autonomnu vožnju Waymo, nema dileme da su računari mnogo bolji vozači od ljudi.
Da bi automobili bez vozača mogli na putevima da budu ravnopravni sa ljudima, tehnika koju koriste mora biti gotovo savršena jer samo jedna greška u kodu može značiti razliku između života i smrti. Zato automobilske i tehnološke kompanije sprovode dugotrajno obučavanje veštačke inteligencije koja upravlja vozilima i treniraju je u različitim stvarnim i simuliranim uslovima.
U više slučajeva do sada pokazalo se kako istraživači pri obučavanju veštačke inteligencije mogu biti pristrasni, pa i rezultati veštačke inteligencije mogu biti takvi – neki AI alati za zapošljavanje su diskriminisali žene, ChatGPT je pokazao znakove rasizma i diskriminacije, a već smo pisali i o policijskim alatima za prepoznavanje lica koji su pogrešno identifikovali osobe tamnije puti, zbog čega su nezasluženo završili u zatvoru.
Kako je pokazalo istraživanje koje su sproveli britanski i kineski naučnici, takva pristrasnost pri obučavanju veštačke inteligencije prisutna je i pri obučavanju AI-a za autonomne automobile, što bi se u nekim situacijama moglo pokazati pogubnim i tragičnim. Kako piše zimo.dnevnik.hr, naučnici su istraživali sisteme prepoznavanja pešaka i pokazalo se da postoji razlika u prepoznavanju osoba u zavisnosti od starosti i rase.
I u ovom slučaju pokazalo se da sistem ne funkcioniše dobro kada su u pitanju osobe tamnije puti. U prošlosti su pripadnicima manjina uskraćivane osnovne usluge, a danas mogu dobiti teške povrede, komentarisala je naučnica Jie Zhang, koja je učestvovala u istraživanju koje je pokazalo da je 7,52 posto veća šansa da će sistem za detekciju pešaka prepoznati osobu svetlije puti u poređenju sa osobama tamnije puti.
Lošije prepoznaju decu
Još je gore kada su u pitanju deca, odnosno postoji čak 20 posto veća verovatnoća da će sistem prepoznati odraslu osobu u poređenju sa detetom. S obzirom na to da robotaksiji već neko vreme voze u nekoliko američkih gradova, jasno je da se rezultati moraju uzeti sa velikom ozbiljnošću. Naučnici koji su učestvovali u istraživanju su pozvali zakonodavce na bolju regulaciju softvera za autonomnu vožnju kako bi se sprečila pristrasnost u sistemima za detekciju pešaka.
Iz Cruisea i Wayma, kompanija koje razvijaju tu tehniku i čiji automobili već neko vreme prevoze putnike bez vozača na prednjem sedištu, za sada nisu komentarisali rezultate ovog istraživanja.
Bonus video: „Tesla vas bezbedno vozi do kućnog praga“ – Pa ne baš uvek
Učestvuj u diskusiji ili pročitaj komentare
