Тут вот в чем дело ,я тут немного Mythbuster ом , побуду )) ....
На ютубе щас охулиард видео в духе " я с одного промта , там в фабл или в гпт , создал суперсайт , игру и бла бла " . ...
Но никто никогда не рассказывает , что бывает когда ты просишь Opus 5 , или грока или гпт сол - подвинуть шрифт хедера в шапке сайта к примеру ) только что красивого и сгенеренного )))
И тут начинается пи...ц ) сразу ...ввиду отсутствия и абстрактного и когнитивного мышления (да и собственно зрения ) нейронка понятия не имеет что такое композиция дизайн, и вообще какая либо целостность ... , для нее все это набор пикселей)) ..
Шрифты налазят друг на друга , рамки кривые , и т д )) ...
И вот тут начинается самое интересное , в условно гуманитарных задачках - типа потрепаться о космологии , посочинять стишки ..и т д
нейронки прям блистают )) ....
В сложных многослойных технических задачах они сразу становятся максимально тупыми ) и дело тут даже не в длинне контекстного окна .
Именно ввиду полного отсутствия того самого когнитивного и абстрактного мышления - и как следствие - фантазии , они в принципе не могут никакую подобную задачу держать в своей "голове " ...
Человек всегда все абстракционирует и визуализирует целостно , условно говоря там конструктор двигателя - уже в процессе разработки держит в голове эту работающую конструкцию и даже мысленно уже на ней и ездит ) .. так же как кодер фронтенда - прокликивает все возможные вариации кнопок ) и крутилок )) и знает как это работает
Нейронка - же на конструкцию подпертую 12 ью костылями - вам предложит 13 ый , обязательно ) вместо рациональности )
потому что рациональность для нее в принципе это не то что для вас , это эвристика из миллиона равноценных плюс минус условностей)
Нейронка видит только очень узкую и конкретную часть задачи , с ней справляется( попутно ломая все связанное ,) потому что у нее отсутствует в принципе все вышописанное )
Поэтому любая сложная и многослойная техническая работа с нейронкой - это работа маленькими кирпичиками , с кучей правил и ограничений , с логгированием буквально каждого шага , и обязательно должна вестись человеком с архитектурным мышлением , который всю эту структуру держит в голове ) потому что нейронка не способна на это ))
Абстрактный пример оч простой , LLM - робот помощник , ...у вас спустило колесо , говоришь ему "замени" - он с невероятной скоростью перебортирует накачает , положит его рядом с машиной и скажет "заменил " )) ..
Это типичная нейронка ...