На изкуствения интелект се възлагаха надежди, че ще действа без

На изкуствения разсъдък се разпореждаха очаквания, че ще работи без външни въздействия или вътрешни предразсъдъци. Но защото индивидът е основател на този нов тип " разсъдък ", той му предава и личните си предубеждения.

Все още няма изцяло безпристрастен и лишен от предубеждения изкуствен интелект

Лицевото различаване посредством   работи добре при бели мъже, само че не и при тъмнонокожи жени. Това е един от класическите проблеми на тази нова област, които в последно време станаха известни. В присъединяване си за " Тед толк " тъмнокожата Джой Буламвини показва резултатите от личния си опит. просто не може да я записва вярно. И едвам откакто си поставя бяла маска, очертаваща единствено главните ѝ лицеви характерности - уста, нос, очи - технологията я разпознава.

Буламвини прави преглед на различен софтуер за лицево различаване, в това число на АйБиЕм и Майкрософт. Те разпознават всевъзможни лица, само че позволяват доста повече неточности при установяване на пола на дамите и хората с тъмна кожа. Ако при белите мъже грешките са към 1 %, то при тъмнокожите дами те стигат до 35 %.
Редакцията предлага
Проблемът не е в технологията, а в това кой я създава и в методите, по които тя е обучавана. Броят на белите мъже, участващи в основаването на изкуствения разсъдък, е много над междинния. От друга страна, делът на дамите през 2021 година е бил едвам 18 %.

Екипите, създаващи ИИ, са прекомерно хомогенни

Разработчиците на изкуствен интелект постоянно просто не обръщат задоволително внимание на групите, които не са задоволително показани в техните екипи. Така характерности, които са доста значими за разпознаването, да вземем за пример на женско или тъмнокожо лице, могат да останат подценени. Затова и не е изненадващо, че актуалните софтуери за лицево различаване се оправят най-добре с белите мъже.

Ксения Кеплингер, която управлява изследователска група в Института за интелигентни системи " Макс Планк ", разяснява, че това не се прави умишлено, да вземем за пример с цел да бъдат изключени дамите или малцинствата. Тя позволява, че разработчиците просто може да не са взели поради всички групи хора.

Пропуски и в базите данни 

Кеплингер отличава и друга значима причина за предразсъдъците на - съответните бази данни, с които той е бил захранван. При образованието за различаване, на системата се демонстрират хиляди, десетки хиляди или доста повече изображения на хора. Именно върху тази основа ИИ научава кои самостоятелни черти сформират човешкото лице. Подобни бази данни могат да се закупят.

Проблемът е, че те нормално не са изключително разнородни. Белите мъже постоянно са непропорционално високо показани в тях. Затова е и обяснимо, че ИИ е теоретичен да разпознава най-добре техните лица.

Обучението с исторически данни е проблематично

Ако даден изкуствен интелект е бил обучаван с историографски данни, той е възприел и пристрастията, които те са отразявали. Така да вземем за пример логаритъм, който би трябвало да реши кои кандидатури за работа да подбере, ще показа отговорите си въз основа на данни за сполучливи чиновници на компанията от предишното. Същевременно, обратно във времето, в съвсем всички сфери е имало ясно изразено желание към мъже. И евентуално за изкуствения разсъдък те биха представлявали по-добри претенденти и през днешния ден.

Вече са известни редица недостатъци на метода за лицево различаване

В същото време биха били посочени като " по-неподходящи ". Съответно се появява и рискът животът им още веднъж да се завърти в познатата серпантина от предишното.

С по-добри бази данни и по-разнообразни екипи за разработка би могло да се сътвори и по-неутрален изкуствен интелект. Но не е допустимо да има подобен, който е изцяло свободен от предубеждения, счита Кеплингер. Тъй като хората постоянно ще имат своите желания, изкуствените интелекти също ще бъдат подготвени на тях. Затова, съгласно нея, където и когато е възможно хората сами би трябвало да ревизират резултатите от логаритмите на ИИ, вместо сляпо да им се доверяват.

Вижте и нашата снимкова изложба: