LLM не замінять програмістів
https://zed.dev/blog/why-llms-cant-build-software
Провокаційний пост від Конрада Ірвіна з ZED. Він каже, що LLM досить добре генерують код, оновлюють його при виявленні проблем і запускають тести. Але люди-інженери працюють не так: вони вибудовують ментальні моделі того, що код робить й що повинен робити, й за цим виконують оновлення.
ШІ агенти не створюють ментальної моделі проекту та просто генерують код, схожий на той найкращій що завчили - тому плутаються, гублять контекст, вигадують зайві деталі, припускають, що написаний ними код працює, не можуть вирішити що робити, коли щось не працює і можуть просто видалити все та почати спочатку без глибшого розуміння проблеми.
Автор сумнівається що це можна виправити. LLM підходить для простих завдань, де вимоги чіткі, й де можуть "одноразово" його виконати та прогнати тест. А людина-інженер залишається "водієм", щоб код дійсно робив те, що від нього вимагається.
Обговорення
https://news.ycombinator.com/item?id=44900116
Коментарі демонструють дуже полярні погляди, але більшість підтримує основну тезу автора. LLM фокусуються на текстових шаблонах, а не на глибинному розумінні, можуть "хачити" тести, щоб вони пройшли, замість того, щоб виправляти справжні проблеми.
Деякі вважають, що добре налаштовані LLM можуть працювати на рівні або навіть краще за молодшого розробника для певних конкретних простих ізольованих завдань.
Багато людей скаржаться, що використання LLM у айті вимагає постійного та ретельного нагляду за агентом - надзвичайної деталізованих "рельсів". Тепер у галузі дивляться на навички формулювання проблем та високорівневого обходу недоліків LLM. Ця "ручна робота" є більш стомлюючою, ніж класичне написання коду самостійно.
Існує сильний розкол позицій щодо того, чи продовжує LLM-технологія швидко розвиватися, чи досягла плато і потребує нових архітектурних проривів.
#zed #autonomousagents