Становимся ли мы тупее с ИИ?

Руководитель посоветовался с ChatGPT, отправил предложенное письмо и получил совсем не ту реакцию, на которую рассчитывал. Теперь он приходит к Юрию Клименко разбираться, что пошло не так. Юрий встречает такие истории в своей работе и видит в них привычку доверять готовому ответу раньше, чем успел подумать сам.

Я смотрю на ИИ прежде всего как на возможность сделать больше. Но из этого ещё не следует, что человек, который получил хороший результат, чему-то научился. Об этом мы и спорили с Юрием, Алёной Горбун, Максимом Ульяновым и Никитой Ульшиным: что остаётся нам, когда всё большую часть работы можно передать инструменту.

Что именно становится хуже

Сначала пришлось разобраться, что мы называем словом «тупеем». Человек перестал считать в уме, потому что пользуется калькулятором. Навык ослаб, но достаточно ли этого, чтобы считать человека менее способным? А если он теперь решает задачи, за которые раньше вообще не мог взяться?

Алёну беспокоило исчезновение самого времени на размышление. Раньше между задачей и результатом были предположения, попытки, ошибки. Теперь можно сразу задать вопрос и получить готовое решение. Особенно существенным ей казалось различие между взрослым с накопленным опытом и ребёнком, который ещё только учится думать. У взрослого уже есть с чем сравнить ответ. У ребёнка такое понимание только должно появиться.

Юрий предлагал отдельно смотреть на способности человека и на результат его работы вместе с ИИ. Второй может стать заметно лучше, пока первые остаются прежними или ослабевают. Для него успех проекта ещё не отвечал на вопрос, умеет ли его автор самостоятельно рассуждать, принимать решения и разбираться в незнакомом.

Я возражал против оценки по набору навыков, который мы привыкли считать обязательным. Люди постоянно упрощают свою жизнь. Умение переключать передачи вручную когда-то было необходимо водителю, а теперь вполне можно обходиться без него. Это ещё не означает, что человек в целом стал хуже справляться с жизнью.

Максим предложил образ экзоскелета: инструмент поддерживает человека и позволяет ему сделать больше. При этом действовать всё равно приходится самому. Мне это сравнение близко, хотя оно не снимает вопрос Юрия. Можно оценивать, что мы способны сделать с помощью нового инструмента, а можно — что умеем без него. В споре мы то и дело переходили от одной оценки к другой.

Когда готового ответа хватает

Юрий рассказывал о студентах, для которых происхождение ответа уже стало подтверждением его правильности: если написала нейронка, зачем сомневаться? С руководителями, которые отправляют сгенерированные письма без проверки, происходит похожее. Должность от этой привычки не защищает.

Его тревожила простота получения приемлемого результата. Раньше даже для среднего уровня приходилось что-то изучить и преодолеть несколько неудач. Теперь можно остановиться гораздо раньше: задача вроде бы решена, причин разбираться дальше нет.

Для сравнения Юрий вспомнил падел. Начинающий игрок быстро осваивает движения, какое-то время растёт, а потом может годами повторять то, что уже получается. Продолжать играть и продолжать учиться — разные вещи. С ИИ такой удобный уровень может оказаться ещё доступнее.

Я напомнил, что люди останавливались в профессиональном развитии и до появления нейронок. Не каждый хочет стать самым сильным специалистом, руководителем или исследователем. Многим достаточно работы, с которой они справляются. Юрий с этим не спорил, но считал, что теперь до остановки человек может успеть научиться гораздо меньшему.

Мы разошлись и в разговоре о лени. Мне знаком инженерный подход: не хочется повторять работу, поэтому придумываешь, как её автоматизировать. Юрий различал это желание и стремление вообще не напрягаться. В первом случае поиск более удобного решения требует мысли. Во втором можно передать инструменту и работу, и поиск решения.

Алёна добавила к этому ещё одну потерю: часть повседневных взаимодействий с людьми становится необязательной. Её беспокоило, что вслед за бытовыми задачами мы начнём так же охотно передавать машине разговоры, в которых раньше учились понимать друг друга.

Собеседник, который не соглашается

Никита рассказал, как настроил Claude для совсем другого разговора. Он просит модель оспаривать его аргументы, требовать конкретики и возвращать к вопросам, на которые он попытался ответить слишком общо. Получается довольно неудобный собеседник.

Например, Никита решил попробовать одну из техник стоиков и попросил помочь составить план. Вместо готового решения получил длинный разговор с уточнениями и в конце сформулировал план сам. В такой работе помощник не избавляет от размышления. Он не даёт слишком рано решить, что всё уже понятно.

Похожий приём помогает ему с рабочей перепиской. Хочется резко ответить человеку, а модель спрашивает, каких результатов он добивается, на какие факты опирается и что именно хочет донести. Иногда приходится отойти, успокоиться и вернуться. Ответ после этого меняется, потому что изменилось собственное понимание ситуации.

Никита сравнивал это со строгим преподавателем или человеком, который постоянно проверяет твою работу. Постепенно начинаешь предугадывать его вопросы и сам замечать слабые места ещё до проверки. Так требовательность собеседника может стать частью собственного способа рассуждать.

Он связывал это и с зоной ближайшего развития: задачами, которые пока трудно выполнить самостоятельно, но уже можно решить с поддержкой. С ИИ такая поддержка доступна в тот момент, когда понадобилась. Никита стал браться за работу, которую раньше откладывал из-за незнакомого языка или инструмента. При этом он подчёркивал, что умеет проверить полученный результат.

Юрий тоже использует ИИ: обсуждает с ним идеи книги, систематизирует материал и просит выступать критическим оппонентом. Его возражение было не против самого инструмента. Он сомневался, что привычка специально искать возражения станет обычным способом его использования.

Опыт помогает ставить вопросы

Управленческая работа часто требует быстро собирать сведения, переключаться между задачами, возвращать нужный контекст и принимать решения. Я вижу, как эти навыки помогают работать с ИИ. У человека уже есть привычка удерживать цель и оценивать чужой результат относительно неё.

Юрий снова напомнил о руководителях, которые следуют советам ChatGPT и только потом разбираются с последствиями. Поэтому я уточнил: речь о конкретных навыках, которые часто встречаются в этой работе. Само название роли ничего не гарантирует.

Максим заметил, что постановка задачи и раньше могла занимать два дня, а реализация — пять минут. Иногда после этих двух дней выясняется, что делать вообще ничего не нужно. Если инструмент помогает разобраться в задаче, это может быть полезнее ускорения самого исполнения.

Но и здесь нельзя считать вопрос решённым. Алёна спросила, не ограничиваем ли мы себя привычными способами рассуждения, когда сразу проверяем любую идею через ИИ. Остаётся ли место для собственного открытия, которому ещё не нашлось подходящих слов?

Максим видел возможность обратного: хороший вопрос со стороны помогает человеку самому заметить то, чего он раньше не понимал. Разговор с ИИ может работать похожим образом. Юрий соглашался с возможностью, но осторожнее относился к качеству такой помощи.

По его опыту, чтобы настроить полезного собеседника для сложной коммуникации, нужно самому хорошо понимать эту работу. Модель может предложить типовой совет, не заметить состояние человека или слишком легко согласиться с его версией событий. Знакомая схема обратной связи ещё не означает, что совет подходит именно этому разговору.

В конце Юрий рассказал о собственном боте для учеников: тот помогает им сформулировать обратную связь самостоятельно. Никита уточнил, что и ему от помощника важнее проверка аргументов, чем готовое письмо. Здесь у них нашлось конкретное общее применение, хотя в прогнозе массового использования они оставались скорее пессимистами.

Откуда возьмётся опыт у новичков

Самый трудный вопрос возник, когда мы перешли от себя к людям, которые только начинают учиться. У нас уже были годы работы, ошибки и самостоятельные попытки. ИИ помогает пользоваться этим опытом. А как его накопит человек, которому с первого дня доступен готовый ответ?

Я ожидаю, что больше внимания уйдёт на постановку задачи и приём результата. Юрий усомнился сразу в обеих частях. Можно попросить сделать сайт для продажи цветов, а все подробности оставить модели. Можно получить работающий сайт и решить, что проверять его незачем: инструмент всё равно разбирается лучше.

Но начинающие и раньше приходили к преподавателю с работой, которую сами плохо понимали. Копировали решение со Stack Overflow, брали чужие примеры, не могли толком объяснить, что хотели получить. Преподаватель возвращал работу, и после этого появлялась развилка. Можно было бросить, а можно — попытаться разобраться, где ошибся.

Мне кажется существенным именно это продолжение. Человек меняет постановку, по-другому проверяет результат, получает новые замечания. Постепенно у него появляется собственный способ подходить к задачам. С агентами такой цикл тоже возможен. Изменится то, какую часть работы выполняет человек, но попытки, ошибки и разбор результата сохранятся.

Юрий возразил: хорошо, если ошибка достаточно заметна и кто-то возвращает тебе работу. Если же ИИ сразу делает всё приемлемо, повода для разбора может не возникнуть. А преподаватель, который проверяет только готовый ответ, не узнает, что студент действительно понял. Поэтому многое зависит от того, как мы будем оценивать обучение.

Этот же вопрос мы обсуждали с Сергеем Бережным в дебатах о роли ИИ в разработке: полезность помощника определяется в том числе тем, какая работа остаётся ученику. Получить правильный ответ и научиться решать задачу можно в одном процессе, но одно не следует из другого.

С получением профессионального опыта сложнее. Учебную задачу можно устроить специально для развития навыка. Компания же платит за результат и должна понимать, зачем ей выделять время на работу новичка. Как встроить его обучение в процессы, где многое уже выполняют агенты, для меня остаётся открытым вопросом.

Юрий опасался, что слишком лёгкий старт лишит дальнейшего развития людей, которые могли бы добиться гораздо большего. Максим, наоборот, видел шанс сделать хорошее образование доступнее: опыт сильного преподавателя можно использовать в помощнике, который поддерживает гораздо больше учеников. При этом он оговорил и противоположный сценарий — лучшие инструменты могут остаться доступны только тем, кто способен за них платить.

Быстрее писать код ещё недостаточно

Алёна предложила посмотреть на результат внедрения ИИ через финансовые показатели компаний. Если все начинают работать быстрее, растёт ли прибыль? Или это только способ не отстать от конкурентов, которые уже используют те же инструменты?

Я считаю, что здесь нас подводит попытка встроить агентов в процессы, которые целиком придуманы для людей. Добавили чат-бота, ускорили несколько действий, но весь путь от идеи до полезного изменения остался прежним. Такой подход не обязан давать выигрыш компании целиком.

Когда код появляется быстрее, обнаруживаются ограничения в других местах. Идей и прототипов становится больше, а проверка, доставка и инфраструктура могут быть не готовы к такому объёму. Продакт уже способен сам сделать вариант продукта, но компании ещё нужно организовать его проверку и понять, что делать с результатами.

Поэтому меня интересует устройство работы с расчётом на участие агентов. Где нужно решение человека, как связаны задачи, по каким условиям принимается результат? Об этом же был круглый стол о внедрении ИИ в разработку. Ускорение отдельного действия хорошо заметно, а изменения всего процесса требуют гораздо больше внимания.

В разговоре привели пример с интерфейсами. Если сохранить привычную цепочку «дизайнер нарисовал макет, верстальщик точно его воспроизвёл, разработчик добавил поведение», можно долго пытаться заставить ИИ работать внутри каждого её этапа. Но можно начать с интерактивного прототипа и иначе распределить работу. Тогда проверять приходится уже другой процесс, со своими преимуществами и ограничениями.

Максим вспоминал завышенные ожидания от ИИ: будто после его внедрения можно перестать думать о разработке. Мне такой вывод кажется странным. Стоимость написания кода снижается, но бизнесу по-прежнему нужны люди, которые понимают задачу, принимают решения и отвечают за результат. Ещё нужно, чтобы отдельные приложения и изменения работали вместе.

Мне трудно предсказать, как именно будут называться профессии и распределяться обязанности. Но уже видно, что привычка брать готовую постановку и только писать код перестаёт описывать всю необходимую работу.

Выдержать «я не знаю»

Сергей Попов принёс вопрос слушательницы: какие навыки теперь особенно нужны для обучения? Умение замечать границы собственных знаний, управлять вниманием или что-то ещё?

Я начал с критического мышления и тех навыков, которые мы привыкли относить к управлению и работе над продуктом. Понять, что делаем, чего хотим добиться и как узнаем, что получили нужный результат. Когда часть исполнения передаётся ИИ, эти вопросы появляются у людей самых разных специальностей.

Максим добавил работу с неопределённостью. Опытному специалисту можно описать ожидаемый результат, а путь он найдёт сам. Для этого нужно уметь пробовать варианты, отвечать за качество и менять подход, когда обнаружились новые обстоятельства.

Никита связывал всё это прежде всего с логикой и оценкой рисков. Юрий считал такое объяснение слишком узким: можно хорошо рассуждать и всё равно не справляться с тревогой от перемен. Ему казались столь же существенными психологическая устойчивость и способность донести свою позицию до другого человека.

Алёна точно сформулировала трудность: выдержать состояние «я не знаю». Когда ответ ещё не найден, хочется поскорее убрать неопределённость. ИИ даёт такую возможность почти мгновенно. Но иногда, по её наблюдению, полезно остаться с вопросом, дать себе время и дождаться собственной мысли.

Никита согласился с важностью устойчивости, хотя не считал её новой потребностью. Люди учились жить с тревогой задолго до нейронок. Быстрые изменения сделали эту работу заметнее: кому-то интересно пробовать новое, а кому-то уже трудно оставаться в профессии, которая так сильно меняется.

Замечать, что происходит с тобой

Алёна предложила ещё одно понятие — ментализацию. Она объясняла его через способность наблюдать за своим поведением, понимать, почему поступил именно так, замечать состояние других людей и менять свои действия с учётом этого понимания.

Максим вспомнил браслеты, которые оценивают сон, нагрузку и восстановление. Они могут помочь заметить связь между тренировкой и самочувствием. Но можно настолько довериться показателям, что перестанешь замечать собственную усталость или, наоборот, начнёшь сомневаться в хорошем самочувствии только потому, что устройство выдало плохую оценку.

С ответами ИИ он видел похожую опасность. Дополнительные сведения полезны, пока человек способен соотнести их со своей ситуацией. Если показатель или готовая рекомендация полностью заменили наблюдение, инструмент уже не помогает разобраться в происходящем.

Алёна возвращалась и к ценности живого профессионального общения. Она продолжает разбирать свою работу на супервизии с человеком и считает, что это обогащает её практику. Передача записей психологических сессий в ИИ для неё связана ещё и с конфиденциальностью. Ускорение разбора не отменяет этой ответственности.

В таком разговоре трудно свести выбор к тому, кто лучше составляет текст ответа. Важны отношения с другим человеком, условия, в которых он доверил тебе свои переживания, и то, что ты сам понимаешь о происходящем между вами.

Разные ожидания от одного инструмента

К концу разговора у нас не появилось общего прогноза. Юрий ожидал, что многие будут экономить усилия и постепенно терять привычку разбираться самостоятельно. При этом он сам пользуется ИИ и признаёт, что с ним можно добиваться большего. Возможно, со временем изменятся и наши представления о том, какие способности считать важными, но ближайшие годы он оценивал скорее тревожно.

Никита тоже сомневался, что большинство будет сознательно развивать своё мышление с помощью модели. Его собственный опыт при этом был вполне положительным: стало проще браться за незнакомые технические задачи, проверять аргументы и готовиться к трудным разговорам. Для него эти возможности не отменяли риска привыкнуть к лёгким ответам.

Максим больше надежд связывал с тем, как мы организуем обучение и работу. Алёна призывала внимательнее относиться к себе и не пытаться заменить инструментом любой контакт с другим человеком. Её беспокоили скорость перемен и тревога людей, которым приходится за ними успевать.

Я тоже не думаю, что все станут лучше думать просто оттого, что получили доступ к ИИ. Привычка обходиться готовыми ответами вполне может закрепиться. Но и сохранить нынешнее устройство профессии в ожидании определённости не получится.

Накануне этих дебатов я был на митапе, где человек спросил: можно ему просто продолжать писать код, потому что он это любит? Конечно, можно. Сложнее с ожиданием, что компания будет и дальше платить именно за эту часть работы на прежних условиях. В этом месте личное увлечение и требования профессии могут разойтись.