Когато Джес Смит качва своя снимка в генератор на изображения с изкуствен интелект това лято, тя не очаква социален експеримент.

Бившата австралийска параолимпийска плувкиня иска да подобри портретната си снимка и качва снимка в цял ръст, изрично подчертавайки, че ѝ липсва лявата ръка под лакътя.

Но ChatGPT не успява да създаде изображението, което иска, и въпреки различните подсказки, резултатите до голяма степен са едни и същи - жена с две ръце или с една ръка и с метална протеза.

Тя пита изкуствения интелект защо е толкова трудно да се създаде изображението и той отговаря, че няма достатъчно данни, с които да работи.

„Това беше важно осъзнаване за мен - изкуственият интелект е отражение на света, в който живеем днес, и нивото на неравенство и дискриминация, което съществува“.

Смит наскоро отново се опитва да генерира изображението си в ChatGPT и с изумление открива, че той вече може да създаде картина на жена с една ръка - точно като нея.

„О, Боже мой, проработи, невероятно е, че най-накрая е актуализирано“, казва тя пред BBC.

„Това е голяма крачка напред.“

Изтриване на пристрастията

Може да не звучи като голяма работа, но за милиони хора с увреждания тази промяна е важна.

„Представителството в технологиите означава да бъдеш възприеман не като допълнителна мисъл, а като част от света, който се изгражда“, казва Джес.

„Изкуственият интелект се развива и когато това се прави с приобщаване в основата си, всички ние печелим. Това е повече от напредък в технологиите, това е напредък в човечеството.“

Говорител на OpenAI - компанията, стояща зад ChatGPT, заяви, че наскоро е „направила значителни подобрения“ в своя модел за генериране на изображения.

„Знаем, че остават предизвикателства, особено по отношение на справедливото представяне, и работим активно за подобряването им - включително усъвършенстване на методите ни след обучение и добавяне на по-разнообразни примери, за да помогнем за намаляване на пристрастията с течение на времето.“

Докато увреждането на Смит сега се отразява в изкуствения интелект, Наоми Боуман, която вижда само с едното око, все още има подобен проблем.

Тя моли ChatGPT да размаже фона на снимка, но вместо това „промени лицето ми напълно и изравни очите ми“.

„Дори когато изрично обясних, че имам очно заболяване и да остави лицето ми на мира, то не можеше да се справи“.

Първоначално Наоми го намира за смешно, но казва, че „сега ме натъжава, тъй като показва присъщата пристрастност в ИИ“.

Тя призовава моделите на ИИ да бъдат „обучени и тествани по строги начини, за да се намали пристрастността и да се гарантира, че наборите от данни са достатъчно широки, така че всеки да бъде представен и третиран справедливо“.

Неловки разговори

Експертите казват, че пристрастията в изкуствения интелект често отразяват същите слепи петна, които съществуват в по-широкото общество, и не само уврежданията са "изтрити" от картината.

Абран Малдонадо, главен изпълнителен директор на Create Labs - щатска компания, която изгражда културно съобразени системи за изкуствен интелект, казва, че разнообразието в AI започва с това кой участва в обучението и етикетирането на данните.

„Става въпрос за това кой е в стаята, когато данните се изграждат. Нуждаете се от културно представителство на етапа на създаване.“

Не всичко е представено правилно в интернет, казва Малдонадо и добавя, че ако не се консултирате с хора с житейски опит, изкуственият интелект ще ги пропусне.

Един добре известен пример е проучване на правителството на САЩ от 2019 г., което установи, че алгоритмите за разпознаване на лица са далеч по-малко точни при идентифицирането на афроамерикански и азиатски лица, в сравнение с лицата на бялата раса.

"Аз не съм инвалид"

Въпреки че живее с една ръка, Джес не се смята за инвалид, казвайки, че бариерите, с които се сблъсква, са обществени.

„Ако използвам обществена тоалетна и кранът трябва да се държи натиснат, това се отразява на способностите ми, не защото не мога да го направя, а защото дизайнерът не е помислил за мен.“

Тя вярва, че съществува риск от повторение на същия пропуск в света на изкуствения интелект, системите и пространствата, изградени без да се вземат предвид всички.

Когато Джес споделя първоначалния си опит в LinkedIn, някой ѝ праща съобщение, в което казва, че приложението му с изкуствен интелект ще създаде изображение на жена с една ръка. „Опитах се да го създам и се случи същото, не можах да генерирам изображението“, казва тя.

Тя дала обратна връзка на човека, но той не ѝ отговорил повече, което, според нея, е типично за разговори за хора с увреждания.

„Разговорът е твърде неловък и неудобен, така че хората се отдръпват.“

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !