Според проучване на CodeRabbit, кодът, създаден с помощта на изкуствен интелект, е по-склонен към грешки и уязвимости в сравнение с този, написан от хора. Средно, заявките за сливане (pull requests), генерирани от ИИ, съдържат 10,83 грешки, докато човешките версии имат 6,45 грешки. Това увеличава времето за преглед и може да доведе до повече грешки в крайния продукт.
Генерираните от ИИ заявки показват 1,7 пъти повече грешки, а критичните и сериозни недостатъци са 1,4 пъти повече. Според TechRadar, тези грешки не могат да бъдат пренебрегнати. По-високи нива на грешки се наблюдават в логиката и коректността (1,75 пъти повече), качеството на кода (1,64 пъти), сигурността (1,57 пъти) и производителността (1,42 пъти). Изкуственият интелект е критикуван за въвеждането на сериозни грешки, които изискват човешка намеса за корекция.
Най-често срещаните проблеми в сигурността, свързани с ИИ, включват неправилно управление на пароли, XSS уязвимости и несигурна десериализация. „ИИ инструментите увеличават производителността, но същевременно въвеждат предвидими недостатъци, с които организациите трябва да се справят“, коментира Дейвид Локър от CodeRabbit. Въпреки това, ИИ подобрява ефективността в ранните етапи на кодиране, намалявайки правописните грешки с 1,76 пъти и проблемите с тестваемостта с 1,32 пъти.
Проучването подчертава, че разработчиците все повече се фокусират върху управлението на ИИ и проверката на неговите резултати, вместо да пишат базов код. Това може да е бъдещият модел на взаимодействие между хора и ИИ агенти.
В същото време, Microsoft отчита рекорден брой отстранени уязвимости, като през 2025 г. са затворени 1139 CVE уязвимости, което е вторият най-висок брой досега. Това може да се дължи на увеличаването на кодовата база, генерирана от ИИ. ИИ моделите, внедрени от OpenAI, продължават да се усъвършенстват, което може да намали грешките в бъдеще.
Препоръчваме ви да прочетете и статията, в която опитен програмист с 40 години стаж проверява дали ИИ ще го замени – резултатът е двусмислен. Оказва се, че ИИ повишава значително производителността, но допуска грешки, които понякога са трудни за откриване дори от опитни специалисти.