Опасения и надежды, связанные с искусственным интеллектом, достаточно очевидны и многократно проговорены (неважно, понимаем мы под ИИ все его известные вариации, или только произведшие фурор генеративные нейросети).
Но интересно, конечно, не то, что ИИ с/может или не с/может, а то, что он позволяет различить в человеческом обществе. Чёрное зеркало, да - но с эффектом увеличения; скорее микроскоп.
Одна из вещей, которые этот микроскоп позволяет разглядеть - это вопрос о собственно человеческом: о чём-то таком, что не может воспроизводиться без непосредственного и личного участия человека, не может быть отчуждено.
Начать стоит с аналогий - тем более, по ходу рассуждения может оказаться, что это не совсем аналогии, а скорее элементы одного и того же процесса.
1. Мануфактура. До механизации и технологизации ремесленного производства право на занятие ремеслом нужно было заслужить: способности, 10-20 лет в подмастерьях + удачное стечение обстоятельств. И тогда получается вполне квалифицированный печник, ювелир или портной, способный изготовить уникальное изделие, со всем ожидаемым музейным узорочьем. Всё, что без узорочья, делали в домашних условиях; тут квалификация скорее житейская, чем профессиональная.
Потом появляется промышленное производство и выясняются три неприятные вещи: 1) демпинг, 2) снижение качества с хорошего или великолепного до приемлемого, 3) мастер-ремесленник становится не просто экономически вытеснен, но и опасно overqualified: его уникальные изделия откровенно вредны, поскольку теряется воспроизводимость и взаимозаменяемость.
Заодно и домотканое полотно или домостроительство своими силами уходят в прошлое. В ХХ веке мануфактура добирается и до приготовления пищи.
Кстати, по сравнению с возможной домашней криворукостью промышленные изделия могут быть значительно лучше (но при этом хуже затратной и уникальной профессиональной работы, выполненной квалифицированным мастером-ремесленником).
2. Книгопечатание. Всё по сходной схеме: до того обучение грамотности и физический доступ к книгам, а также умение их понимать и использовать, требовали многолетнего обучения, чаще всего - индивидуального, немалых способностей и пр. Зато и результат был очевидный: чуть ли не каждый грамотный (владеющий и письменной речью) вполне достоин присутствия в хрестоматии. Ну, и переписчик - хорошая работа на всю жизнь.
Потом появляются отпечатанные миллионными тиражами азбуки и прописи - и выясняются три неприятные вещи... Собственно, те же самые; волшебная фраза "не умничай!" становится девизом образовательной системы.
Заодно исчезают местные диалекты, включая внутрисемейные, узелковое письмо, каллиграфия - да и просто чистописание - и умение ориентироваться по приметам. Как, впрочем, и опытное, а не книжное, знание жизни - чем дальше, тем быстрее.
3. Фотография, кинематограф и звукозапись \ видеозапись. Аналогично: немногочисленные художники и исполнители вытесняются целой индустрией, где итоговый продукт скорее монтируется, ассемблируется и штампуется, чем творится. Заодно исчезают практика домашнего музицирования, умение рисовать как часть обычной образованности, домашние спектакли и пр.
4. Далее - везде. Не удивлюсь, если в ходе неолитической революции произошло то же самое: от индивидуального и авторского взаимодействия с природой - к бездушному выращиванию риса и зерна тоннами.
Что при этом происходит?
1) Самих ремесленников (мастеров, творцов) меньше не становится. Точнее, под удар попадает временно размножившаяся их популяция, как раз и создававшая массовый рынок накануне механизации: для быстрого распространения фотографии необходимо многочисленное поколение художников, обучавшихся в худучилищах и подготовивших спрос. Оно и страдает. В остальном, кажется, константа: те, кто заказывал индпошив 500 лет назад, заказывают его и сейчас - и их есть кому обшивать. Правда, конкурентная ситуация меняется, поскольку численность населения далека от константы.
2) В новом, отчуждённом массовом производстве человечность исчезает: доктор не получает от пациента обратной связи ни в виде субъективно значимой благодарности, ни в виде оплаты; зарплату назначает организация. Индивидуальность и оригинальность оказываются изъяном, - и с этой точки зрения совершенно не важно, стоит ли у конвейера живой человек или робот.
3) Снижение качества до минимально приемлемого уровня компенсируется дешевизной и гарантиями: звукозаписывающий лейбл не способен сам сочинить симфонию, но массовому потребителю нужна не симфония, а что-нибудь ритмичное и дешёвое, с гарантией ежедневного обновления плейлиста. На это роботы тоже способны. Более того: только бездушная и безличная система может гарантировать регулярность обновлений и сохранение уровня.
4) В целом, всё это сочетается с тем, что можно назвать ростом благосостояния. Скажем, доступность разнообразных изображений или зубной пасты приемлемого качества сегодня не сравнима с положением дел 100, 200 или 300 лет назад.
5) Через какое-то время происходит откат: умершие было профессиональное ремесло и домашнее рукоделие возрождаются как хобби или как альтернативная профессионализация (альтернативная бездушной мануфактуре и прочей технологизации), - и, что самое удивительное, находят своих почитателей и клиентов.
Самое время разобраться с тем, что же остаётся - в смысле человечности и человеческого. В частности, на примере тех видов деятельности, где механизация и отчуждение произошли давным-давно.
В целом, кажется, картинка складывается такая:
- важно не функциональное (фермерские продукты и домашние поделки покупают не потому, что они сытнее, надёжнее или дешевле - и делают их не потому, что это самое доступное средство заработка);
- важна персонализация (разумеется, селективная: не со всяким человеком будешь общаться, но если уж общаешься - любой повод подходит, включая подарок под заказ, а замену найти сложно);
- важна индивидуализация (чем больше индивидуальные ожидания отличаются от стандарта, тем выше вероятность индивидуального заказа, с которым механическая система не справится);
- важна новизна (не в смысле улучшения уже имеющегося по известному параметру или произвольного смешения уже сделанного, а в смысле изобретения новых параметров);
- важна адаптивность (при изменении ситуации отдельные изобретатели - а также пройдохи, - реагируют быстрее и точнее, чем любая безличная система).
Не уверен, что можно назвать всю эту совокупность свойств одним словом; даже словосочетания получаются какие-то уродливые: адресная креативность?.. продуктовое опосредование эмоциональных связей?.. общество индивидуализированных излишеств?..
Однако, набор характеристик есть. Проецируем на последствия масштабного внедрения ИИ и прочей роботизации.
1) Способности ИИ не означают смерти творческих профессий, но точно означают снижение их массовости. Выживут вершины духа и творчество как опосредование межличностных связей (может, друзья и влюблённые будут чаще друг друга рисовать или поэмы друг другу посвящать). Всё, связанное с базовой общественно значимой функциональностью (занять время, получить образование, вкусить дофамина, найти или составить что-то полезное методом перебора и компиляции, иметь общие и престижные темы для разговора, контроль и учёт), будет роботизировано по максимуму - но и удовлетворять по минимуму.
2) Сначала надо наесться. Шитьё, кулинария, фермерство или рыбалка как хобби появляются только тогда, когда в случае чего готовую одежду, еду и что там ещё можно гарантированно купить за копейки. То же со всей продукцией, которую принято было относить к творческой: сначала одно поколение должно насытиться нейросетевой музыкой, компьютерными текстами и машинным образованием, а потом - не отказываясь от уже закреплённых гарантий получать всё это в любой момент, - можно подумать и об индивидуальном творчестве, изначально и принципиально не нацеленном на конкуренцию с роботами. Может, и быстрее: массовость "интеллектуальных" или "творческих" профессий уже достаточно снизила планку (и цены), чтобы на минимально достаточном уровне хватило всем.
3) Разумеется, новое индивидуальное творчество будет опираться на актуальные технологии, тот же ИИ (современные фермеры не мотыгой работают, а фанаты рыбалки не из первой попавшейся ветки с конопляной верёвочкой делают удочки).
4) Всё это, разумеется, при продолжении технологически обусловленного прогресса, - в противном случае возможны варианты.