6 izazova – identifikovanih od strane naučnika – sa kojima se ljudi suočavaju sa veštačkom inteligencijom

Studija koju je vodio profesor sa Univerziteta Centralne Floride identificirala je šest izazova koje moramo savladati kako bismo poboljšali naš odnos s umjetnom inteligencijom (AI) i zajamčili njeno etičko i pošteno korištenje.

Profesor sa Univerziteta Centralne Floride i 26 drugih naučnika objavili su studiju koja naglašava prepreke s kojima se čovječanstvo mora uhvatiti u koštac da bi zajamčilo da je umjetna inteligencija (AI) pouzdana, sigurna, pouzdana i usklađena s ljudskim vrijednostima.

Studija je objavljena u International Journal of Human-Computer Interaction.

Ozlem Garibay, docent na UCF-ovom Odsjeku za industrijsko inženjerstvo i sisteme upravljanja, služio je kao vodeći istraživač za studiju. Prema Garibayu, iako je AI tehnologija postala sve prisutnija u različitim aspektima naših života, ona je također uvela mnoštvo izazova koje je potrebno temeljito ispitati.

Na primjer, nadolazeća široko rasprostranjena integracija umjetne inteligencije mogla bi značajno utjecati na ljudski život na načine koji još uvijek nisu u potpunosti shvaćeni, kaže Garibay, koji radi na AI aplikacijama u dizajnu i otkrivanju materijala i lijekova i kako AI utječe na društvene sisteme.

Šest izazova koji su Garibay i tim istraživača identificirali su:

• Izazov 1, Ljudsko blagostanje: AI bi trebao biti u stanju da otkrije mogućnosti implementacije za dobrobit ljudi. Takođe bi trebalo da bude obazrivo da se podrži dobrobit korisnika prilikom interakcije sa AI.
• Izazov 2, Odgovorno: Odgovorna AI odnosi se na koncept davanja prioriteta ljudskom i društvenom blagostanju kroz životni ciklus AI. Ovo osigurava da se potencijalne koristi od AI iskoriste na način koji je u skladu s ljudskim vrijednostima i prioritetima, a istovremeno se smanjuje rizik od neželjenih posljedica ili etičkih kršenja.
• Izazov 3, privatnost: Prikupljanje, korištenje i širenje podataka u sistemima umjetne inteligencije treba pažljivo razmotriti kako bi se osigurala zaštita privatnosti pojedinaca i spriječila štetna upotreba prema pojedincima ili grupama.
• Izazov 4, Dizajn: Principi dizajna usmjerenih na čovjeka za AI sisteme trebaju koristiti okvir koji može informirati praktičare. Ovaj okvir bi napravio razliku između AI s ekstremno niskim rizikom, AI bez potrebnih posebnih mjera, AI s ekstremno visokim rizicima i AI koji ne bi trebao biti dozvoljen.
• Izazov 5, Upravljanje i nadzor: Potreban je okvir upravljanja koji razmatra cijeli životni ciklus umjetne inteligencije od koncepcije do razvoja do implementacije.
• Izazov 6, interakcija između ljudi i AI: Da bi se podstakao etički i pravičan odnos između ljudi i AI sistema, imperativ je da interakcije budu zasnovane na fundamentalnom principu poštovanja kognitivnih kapaciteta ljudi. Konkretno, ljudi moraju zadržati potpunu kontrolu i odgovornost za ponašanje i rezultate AI sistema.

Studija, koja je sprovedena tokom 20 meseci, obuhvata stavove 26 međunarodnih stručnjaka koji imaju različita iskustva u AI tehnologiji.

“Ovi izazovi zahtijevaju stvaranje tehnologija umjetne inteligencije usmjerene na čovjeka koje daju prioritet etičnosti, pravičnosti i poboljšanju ljudskog blagostanja”, kaže Garibay. “Izazovi podstiču usvajanje pristupa usmjerenog na čovjeka koji uključuje odgovoran dizajn, zaštitu privatnosti, pridržavanje principa dizajna usmjerenog na čovjeka, odgovarajuće upravljanje i nadzor, te interakciju s poštovanjem s ljudskim kognitivnim kapacitetima.”

Sve u svemu, ovi izazovi su poziv na akciju za naučnu zajednicu da razvije i implementira tehnologije umjetne inteligencije koje daju prioritet i od koristi čovječanstvu, kaže ona.

Referenca: “Šest velikih izazova umjetne inteligencije usmjerene na čovjeka” Ozlema Ozmena Garibaya, Brent Winslow, Salvatore Andolina, Margherita Antona, Anja Bodenschatz, Constantinos Coursaris, Gregory Falco, Stephen M. Fiore, Ivan Grieman, C. , Marina Jirotka, Hernisa Kacorri, Waldemar Karwowski, Joe Kider, Joseph Konstan, Sean Koon, Monica Lopez-Gonzalez, Iliana Maifeld-Caruccig, Sean McGregor, Gavriel Salvendy, Ben Shneiderman, Constantine Stephanidis, Christina Wen Strobel, , 2. januara 2023., International Journal of Human-Computer Interaction.
DOI: 10.1080/10447318.2022.2153320

Grupa od 26 stručnjaka uključuje članove Nacionalne akademije inženjeringa i istraživače iz Sjeverne Amerike, Evrope i Azije koji imaju široka iskustva u akademskim krugovima, industriji i vladi. Grupa takođe ima različite obrazovne pozadine u oblastima u rasponu od informatike i inženjerstva do psihologije i medicine.

Njihov rad će takođe biti predstavljen u jednom poglavlju knjige Interakcija čoveka i računara: osnove, metode, tehnologije i aplikacije.