Изкуственият интелект в медицината: ново проучване разкрива недостатъци
Услугата, стартирала през януари 2026 г. от OpenAI, бързо спечели популярност, привличайки около 40 милиона потребители ежедневно, които търсят медицински съвети. Въпреки това, независими изследвания относно безопасността на предоставените съвети досега липсват.
Водещият автор на изследването, доктор Ашвин Рамасвами, сподели, че целта е била да се установи дали системата може да идентифицира спешни медицински ситуации. За целта екипът е разработил 60 клинични сценария, обхващащи 21 медицински специалности, от леки симптоми до сериозни състояния. Трима независими лекари оценили степента на спешност на всеки случай, базирайки се на препоръките на 56 медицински организации.
Изследването включвало 960 взаимодействия с системата, като са взети предвид различни социални и демографски фактори. Резултатите показват, че инструментът адекватно реагира на очевидни спешни случаи, но в над половината от по-сложните ситуации подценява необходимостта от незабавна помощ.
Например, в случай на астма, изкуственият интелект е посочил ранни признаци на дихателна недостатъчност, но е препоръчал изчакване вместо спешна помощ. Особено тревожно е функционирането на системата при случаи на риск от самоубийство, където предупрежденията не са последователни.
Авторите на проучването подчертават, че резултатите не означават, че медицинските услуги с изкуствен интелект трябва да бъдат напълно отхвърлени. Те предлагат инструментите да се използват в допълнение на медицинската преценка. Учените призовават за редовни независими тестове след обновления на ИИ моделите.
OpenAI и други компании подчертават, че техните модели не са заместител на медицинските специалисти. Въпреки това, в моменти на паника, потребителите често се обръщат към чатбота на телефона си.