Зниження якості генерації коду
https://spectrum.ieee.org/ai-coding-degrades
Дата-саєнтіс Джеймі Твісс (Jamie Twiss) каже, що за його досвідом ШІ агенти генерації кода досягли плато у 2025 й зараз якість їх роботи почала знижуватися.

Його припущення. Раніше моделі часто помилялися в синтаксисі або структурі. Все далі більше сучасних користувачів ШІ генераторів коду це "вайб" програмісти. Якщо він прийняв код модель вважає, що вона впоралася. Так працює навчання на основі людського фідбеку, яке й отруює нові ітерації моделей та вчить "догоджати" користувачеві, маскуючи проблеми, замість того, щоб писати коректний та безпечний код.

https://news.ycombinator.com/item?id=46542036
Значна частина коментаторів вважає, що моделі не стають гіршими, просто змінюється їхня "архітектура можливостей", а старі методи промптингу вже не працюють. Розробники мають постійно адаптуватися. Робота з ШІ це не магічно правильні відповіді щоразу, а окрема інженерна дисципліна, яка потребує ретельної перевірки (audit) та складних інструментів контролю.

Деякі припускають, що великі провайдери на підписках динамічно підміняють великі моделі меншими (дистильованими) під час пікових навантажень. Через це користувачі періодично бачать "тупіння" ШІ.

#prompts