Опасности от генеративния изкуствен интелект: Какво казва професор Улдридж
Генеративният изкуствен интелект (GenAI) навлиза агресивно в ежедневието и бизнеса, като инструментите му се използват все по-широко от появата им преди три-четири години. Въпреки че е рано да се говори за „пукнатина“ в AI балона, експерти предупреждават за по-сериозни рискове. Майкъл Улдридж, професор по изкуствен интелект в Оксфорд, изразява притеснения относно потенциални инциденти, сравнявайки ситуацията с трагедията на дирижабъла „Хинденбург“ от 1937 година, която завинаги промени общественото възприятие за въздухоплаването.
Според Улдридж, индустрията на изкуствения интелект е изложена на натиск от бизнеса, който търси нови инструменти, без да се увери в тяхната безопасност. Технологичните компании често пренебрегват сигурността в името на печалбата, което може да доведе до сериозни инциденти. Улдридж предвижда сценарии, включващи грешки в автономни превозни средства или хакерски атаки, които могат да повлияят на глобалния транспорт.
На неотдавнашна лекция, посветена на проблемите с AI, Улдридж подчерта, че разминаването между очакванията на учените и реалността е значително. Съвременните AI системи не предоставят ясни и завършени отговори, а вместо това дават приблизителни резултати. Чатботовете, проектирани да звучат уверено, често се провалят по непредсказуеми начини.
Улдридж предлага решение: вместо да се моделират по човешки образец, AI системите трябва да бъдат проектирани да признават ограниченията си. Той дава пример от „Стар Трек“, където компютърът на „Ентърпрайз“ отговаря, че не разполага с достатъчно данни. Според него, AI трябва да бъде представен като инструмент, а не като човешко същество, за да се избегнат опасности и недоразумения.