Чому LLM не можуть по-справжньому створювати софт
https://news.ycombinator.com/item?id=44900116
Більш ніж 500 коментарів. Центральна ідея: LLM не мають абстрактну "ментальної моделі" як створювати щось — вони працюють лише з текстом. Вони не "розуміють" код, а лише імітують його написання. Багато коментаторів наголошують, що найцінніша частина їхньої роботи — це те, що відбувається до написання коду. 95% роботи це виявити неочевидні залежності, приховані вимоги або потенційні проблеми на перетині бізнес-логіки та технологій.
Учасники дискусії погоджуються, що LLM можуть бути корисними, але лише як інструмент в руках досвідченого фахівця, бо головна відповідальність та контроль завжди залишаються за людиною. На відміну від традиційних інструментів, LLM є недетермінованими, це робить їх ненадійними для складних завдань. Часто виправлення помилок в таких проектах займає більше часу, ніж написання коду власноруч.
AI Coding відстій
https://www.youtube.com/watch?v=0ZUkQF6boNg
Вже доволі відоме відео, де розробник з Coding Garden лається на те, в що перетворилося програмування. В результаті свого розчарування він вирішив взяти місячну перерву від усіх інструментів ШІ, щоб знову відчути радість від своєї роботи.
Ключова причина його невдоволення полягає в фундаментальній різниці між програмуванням і роботою зі ШІ. Програмування це логічна, передбачувана і пізнавана система, де однакові дії завжди призводять до однакового результату. Натомість ШІ є непередбачуваним.
Раніше він отримував задоволення від програмування завдяки відчуттю досягнення після вирішення складної проблеми чи виправлення помилки, "ого як я можу". Тепер його робота перетворилася на постійну суперечку з мовними моделями (LLM), які часто генерують не те що потрібно.
Той самий запит до моделі може щоразу давати різну відповідь. Ця відсутність стабільності робить неможливим створення надійних робочих процесів і суперечить самій природі програмування. Це позбавляє радості від процесу, замінюючи її роздратуванням.
Перелічує численні передові методи, які намагався застосувати, щоб зробити ШІ більш керованим: створення детальних файлів з інструкціями, покрокове планування завдань, використання агентів і примушування ШІ писати тести для самоперевірки. Але моделі все одно ігнорують правила, обходять проблеми (наприклад, прибираючи тести, що не проходять) і не забезпечують надійного результату.
Наприкінці автор спростовує тезу про те, що розробники, які не використовують ШІ, "відстають", адже освоїти ці інструменти можна швидко, а фундаментальні навички є важливішими й отримуются повільно з досвіду.
Він радить новачкам навчитися програмувати без ШІ.
https://www.youtube.com/watch?v=0ZUkQF6boNg
Коментарі під відео демонструють згоду з автором. Багато розробників відчули полегшення, побачивши, що їхнє розчарування є масовим явищем, а не особистою проблемою. Розробники порівнюють роботу зі ШІ з управлінням надмірно самовпевненим, але некомпетентним молодшим спеціалістом. Такий "помічник" запевняє, що все зрозумів, але насправді не слухає й робить що хоче. Виправлені помилки з'являються знову, інструмент ігнорує задані правила, а на його код неможливо покластися.
Багато коментаторів висловлюють занепокоєння, що початківці, які покладаються на ШІ, ніколи не навчаться програмувати по-справжньому. Це порівнюють із бездумним копіюванням коду зі Stack Overflow, але в гіршому масштабі. Новачки не розвивають фундаментальні навички вирішення проблем, що в довгостроковій перспективі робить їх слабшими фахівцями.
#bestpractices