„A devenit tot mai clar faptul că, în diverse domenii, inteligenţa artificială amplifică inegalităţile, plasează informaţiile și mijloacele de control în mâinile celor care deţin puterea, privându-i în același timp pe aceia care nu le deţin”, spun specialiștii de la AI Now Institute, un centru afiliat Universităţii din New York, într-un raport care recomandă reglementări mult mai stricte de implementare a inteligenţei artificiale.

Cercetătorii s-au declarat preocupaţi de utilizarea inteligenţei artificiale (AI) în domenii care merg „de la resurse umane la servicii sociale, de la supraveghere la monitorizarea imigranţilor și a minorităţilor”, dar „fără garanţii şi fără structuri de control potrivite”.

Guvernele și companiile nu ar trebui să mai folosească recunoașterea facială „în contexte sociale și politice sensibile”, cel puţin până când riscurile nu vor fi înţelese mai bine, spune raportul.

În ce privește tehnica incipientă a recunoașterii emoţiilor de către mașini, cercetătorii cred că interzicerea ar fi soluţia cea mai potrivită. „Ea nu ar trebui să joace un rol în deciziile importante pe care le iau oamenii, în timpul interviurilor de angajare, consultaţiilor medicale, întâlnirilor cu un asigurator sau în timpul evaluării elevilor în şcoli”, subliniază raportul. În plus, cercetătorii newyorkezi avertizează că tehnologiile AI pot consolida rasismul și lipsa diversităţii. Astfel, un algoritm de recrutare poate deduce, folosind datele existente, că infirmierii trebuie să fie infirmiere, iar cadrele tehnice trebuie să fie bărbaţi caucazieni între 40 și 50 de ani.

„Industria AI este teribil de omogenă”, spun autorii.

O reglementare a inteligenţei artificiale ar trebui să se concentreze pe riscurile și deficienţele inevitabile ale acesteia, însă nu a sosit încă momentul oportun pentru a face acest lucru, susţine un studiu din 2018. În primul rând, principiile pe baza cărora se fac reglementările trebuie să se bazeze pe atenuarea riscurilor pe care le generează pentru societate activitatea reglementată, însă acest lucru nu este realizabil până ce riscurile AI nu sunt cunoscute într-o măsură mai mare, susţine studiul. În al doilea rând, deși în domeniile tehnologice reglementarea prospectivă este una de succes, „istoria legiferarii prospective a tehnologiilor digitale este una a unui eșec aproape complet”.