Правлениям компаний пора всерьез задуматься об искусственном интеллекте OTUS
2026-03-10 22:30 Diff
https://otus.ru/journal/pravleniyam-kompanij-pora-vserez-zadumatsya-ob-iskusstvennom-intellekte/

Задача совета директоров — защищать интересы акционеров. Но поскольку искусственный интеллект в основе своей имеет столь разрушительные последствия (стратегические, операционные и конкурентные), совет директоров обязан по отношению к своим акционерам стимулировать и контролировать эти изменения. И чтобы в будущем ваша компания оставалась такой же актуальной, как и сегодня, пора всем членам совета директоров стать знатоками искусственного интеллекта. 

Нам, как профессорам, авторам и консультантам, посчастливилось наблюдать за заседаниями советов директоров в ведущих мировых компаниях. Недавно в совете директоров финансовой компании, входящей в список Fortune 200, обсуждалась роль искусственного интеллекта в ее будущей деятельности. Обсуждались вопросы генеративного искусственного интеллекта и его огромный потенциал в качестве контент-создателя и генератора кода. Обсуждались риски, связанные с ИИ, например, передача сотрудником конфиденциальных материалов в генеративный искусственный интеллект. Участники выразили обеспокоенность тем, что искусственный интеллект развивается слишком быстро, чтобы можно было за ним успевать. В завершение обсуждения было отмечено, что искусственный интеллект является критически важным элементом стратегии дальнейшего развития и что на каждом последующем заседании совета директоров будет обсуждаться «состояние дел в области ИИ».

Всем правлениям компаний следует начать обсуждать вопросы искусственного интеллекта в подобном, серьезном ключе. При этом им неизбежно потребуется гораздо более глубокое погружение в этот процесс. Поскольку речь идет об управлении рисками предприятия, членам советов директоров пора быть готовыми к тому, что искусственный интеллект может привести их к потенциальной опасности. 

Охваченные энтузиазмом использовать новые возможности, сотрудники могут применять инструменты ИИ сравнительно неконтролируемыми способами, даже если их не тестировали в широком масштабе. Сотрудникам, работающим на передовой, слишком легко использовать короткие пути, без должной проверки. Например: В одной юридической фирме младшие юристы использовали ИИ для проведения расследований. В итоге оказалось, что искусственный интеллект просто сфабриковал судебные дела. 

Кроме того, регулярно возникают значительные риски, связанные с конфиденциальностью, безопасностью и регулированием. Один из новых рисков, получивший название «prompt injections», заключается в том, что хакеры вводят команды в генеративную систему искусственного интеллекта, чтобы вызвать атаку безопасности. Не имея четкого представления о том, как обучалась модель ИИ, пользователи также подвергаются юридическим рискам, когда непреднамеренно используют материалы, защищенные авторским правом. В законодательстве пока нет однозначной позиции по этому вопросу. Появляются методы нанесения водяных знаков, и некоторые крупные игроки на рынке технологий предлагают пользователям возмещение ущерба, но закон все еще неоднозначен, и многие пользователи могут ненароком использовать сгенерированные материалы и столкнуться с требованиями о прекращении и отказе в предоставлении услуг со стороны создателей оригинального контента. Эти дискуссии, безусловно, будут расширяться по мере того, как станут очевидны более широкие риски, связанные с ИИ. 

Цена стратегических возможностей

ИИ открывает новые возможности не только за счет новых методов повышения эффективности, но и потому, что с его помощью можно осуществлять персонализацию в массовом порядке (в маркетинге, в обслуживании клиентов, даже в характере предлагаемых услуг), а также делать значительно более точные прогнозы для стимулирования операций (предиктивное обслуживание, управление сетями поставок и т.д.). Это приведет к появлению новых поворотов в конкурентной борьбе, поскольку лидеры пересмотрят свои коммерческие предложения, структуру затрат и методы собственной идентификации.

Правления компаний несут фидуциарную ответственность за то, чтобы деятельность компании соответствовала ее стратегии и чтобы эта стратегия оправдывала ожидания акционеров. В условиях, когда искусственный интеллект способен нарушить условия конкуренции, совет директоров должен пересмотреть характер своих коммерческих предложений, методы работы компании и ее экономическую модель. По нашему мнению, члены правлений должны ставить перед руководством ключевые вопросы о стратегическом направлении развития компании в мире, где царит искусственный интеллект. Вопросы, которые, возможно, не задавались долгое время, должны быть вынесены на обсуждение, например: С какими новыми конкурентами мы столкнемся? Какая у нас будет компания? Как и где мы будем конкурировать? Как мы будем обслуживать наших клиентов? Какую экосистему нам необходимо обеспечить? 

Например, если с помощью генеративного ИИ клиенты могут запросить что-то в чате, а также написать код для выполнения запроса, то какие широкие возможности будет стремиться охватить ваш бренд? Станет ли ваша гостиничная сеть порталом, на котором потребители могут запросить полностью скоординированный план отдыха? Будете ли вы конкурировать напрямую с игроками рынка электронных туристических услуг? Если да, то каков ваш бизнес-план — не только в отношении возможностей искусственного интеллекта, но и в отношении всех партнерских связей, которые вам предстоит наладить?  

Это важнейшие вопросы, на которые инвесторы, по понятным причинам, ожидают получить четкие и обнадеживающие ответы. Цена акций компании Chegg, специализирующейся на онлайн-образовании, упала вдвое всего за один день после выхода ее предупреждения о том, что ChatGPT нанесет ущерб росту числа подписчиков, поскольку студенты будут обращаться за помощью в выполнении домашних заданий к генеративному искусственному интеллекту, а не к Chegg.

В этом контексте ведущие советы директоров, как нам удалось выяснить, ориентируются на эти пять принципов:

Для них данные — основной актив в конкурентной борьбе.

Поскольку все ИИ-модели основаны на данных, ваши собственные данные от первых лиц, особенно о клиентах и их поведении, становятся чистым золотом. С их помощью вы сможете лучше определять приоритеты клиентов, устанавливать триггеры для последующих действий и персонализировать взаимодействие с ними. И чем больше вы будете взаимодействовать со своими клиентами и собирать информацию о них, вероятно, интегрируя данные о них из разных подразделений предприятия и создавая новые данные по мере тестирования инноваций, тем богаче будут ваши ИИ-модели. 

Совет директоров одной из изучаемых нами компаний, где предоставлялись льготы для сотрудников, был обеспокоен тем, что руководство обсуждало новую стратегию, ориентированную на персонализацию. Совет директоров потребовал глубоко изучить процессы управления данными в компании. В частности, необходимо было проанализировать, каким образом данные были получены или приобретены у операторов и партнеров, что происходит с этими данными, как они расширяются, поддерживаются, защищаются и активируются. 

Взяв за основу эту исходную точку, они поставили перед руководством задачу адаптировать свою бизнес-модель для создания и сбора большего объема информации с большей детализацией, с большей скоростью, по большему количеству клиентов и бизнес-операций. Они проанализировали, какие данные должны быть разрешены, а также то, как происходит сбор и управление разрешениями. Затем, вернувшись к более широкому спектру рисков, теперь уже в режиме работы с большим количеством данных, они спросили у директора по информационной безопасности, как компания будет управлять безопасностью и конфиденциальностью данных, проходящих через растущий список ИИ моделей.

Это задало тон для новой модели сотрудничества между советом директоров и руководством. Совет директоров стал гораздо активнее поддерживать меняющуюся стратегию, как только увидел, что в компании налажены соответствующие процессы.

На уровне совета директоров они курируют стратегию, внедрение и риски, связанные с ИИ.

ИИ затрагивает очень многие аспекты бизнеса, включая стратегию, конкурентное позиционирование, инвестиции, этику, предвзятость и таланты. В одном из банков совет директоров решил проводить обсуждение стратегии и внедрения ИИ на каждом заседании совета, но при этом делегировал отдельные области для надзора комитетам, например, комитету по аудиту — по матрице общеорганизационных рисков, а комитету по технологиям — по инструментам и продуктам. Они рассчитывают на то, что генеральный директор будет осуществлять надзор за тем, как высшее руководство (C-suite) работает с искусственным интеллектом, и, добавив внедрение искусственного интеллекта в ежегодные OKR (цели и ключевые результаты) генерального директора, надеются возложить на него ответственность в случае недостижения поставленных целей. 

    Они занимают активную позицию в отношении своей кадровой стратегии и потребностей в кадрах.

    Самые умные из правлений исследованных нами компаний признают, что ИИ может полностью изменить традиционные модели управления персоналом. В частности, технологические компании все меньше нуждаются в продакт-менеджерах. Теперь они больше нуждаются в дата-инженерах и специалистах по Data Science. 

    Советы директоров ряда ведущих технологических компаний привлекают генеральных директоров (CEO) и директоров по персоналу (CHRO) к обсуждению таких вопросов, как потребности в навыках и компетенциях, связанных с ИИ, предполагаемая необходимость переквалификации и повышения квалификации существующих сотрудников, практические подходы к поиску и привлечению талантливых специалистов в области ИИ, а также принятие этических норм, политики конфиденциальности и безопасности в отношении ИИ в своих организациях. В ближайшие годы разрыв между спросом и предложением на специалистов в области искусственного интеллекта будет только усугубляться, и органы управления персоналом и комитеты по вознаграждениям стараются опередить эту проблему. 

    Их цель — формирование отраслевой экосистемы

    При внедрении ИИ на предприятии сразу же возникают стратегические вопросы о том, что нужно создавать (поскольку большинство компаний не могут создать собственный LLM), а что покупать (или получать доступ через API), например, программное обеспечение, алгоритмы, данные и партнерские отношения с клиентами.

    Большинству компаний придется обратиться к крупным технологическим вендорам, способным предоставить чипы, системные мощности, доступ к масштабным обучающим данным и специалистов по разработке ИИ. Многие из специализированных приложений, работающих на такой основе, например, генерация специализированного контента, функциональность чатботов и модели оптимизации, станут возможными благодаря сочетанию готовых приложений, разработчиков на заказ и внутренних сотрудников. 

    Совет директоров одной из международных компаний, занимающейся обслуживанием клиентов, потребовал от руководства установить оградительные барьеры для решения конкретных вопросов, связанных с искусственным интеллектом. Они хотели получить гарантию того, что сотрудники не будут обучать языковые модели других компаний на базе своих данных или вводить в открытую систему данные, принадлежащие третьим лицам. Им было необходимо соответствовать нормативным требованиям Закона о защите конфиденциальности детей в Интернете, другим стандартам частной жизни и безопасности. Для них было важно обеспечить прозрачность источников обучения и регулярную оценку предвзятости. 

    Компания тестирует предложения крупных игроков рынка LLM, таких как OpenAI, Microsoft, Google и Anthropic, которые все чаще предлагают открыто обучаемый материал в качестве базы, на основе которой пользователи могут в дальнейшем обучать и оптимизировать систему. Они предоставляют пользователям разделенный на части экземпляр модели, благодаря чему данные, которые компания загружает из собственных систем, защищены более надежным образом. В совете директоров быстро сообразили, что это лишь некоторые из множества условий, которые необходимо учитывать. 

    Они стремятся к преобразующему и измеримому воздействию.

    Мы допускаем, что компании должны начинать свой путь к ИИ с постепенных, ощутимых экспериментов. Они часто внедряют новые возможности медленно, чтобы сделать процессы немного более эффективными. Но у членов правлений есть полномочия и ответственность, чтобы добиваться более значительных результатов, включая изменение коммерческих предложений, ускорение разработки инноваций, управление доходностью и ценообразованием,усиление привлечения клиентов, резкое улучшение NPS и прогнозирование технического обслуживания и штатного расписания. 

      Для обеспечения гибкости в реализации подобных инициатив руководство компании, производящей промышленные товары, совместно с советом директоров утвердило новый подход к составлению бюджета. Вместо поэтапных изменений в финансировании различных продуктовых линий и функций теперь создается межотраслевой фонд для перспективных инвестиций в ИИ, таких как встраивание новых датчиков во все свое оборудование, создание крупной облачной базы для обработки данных от тысяч клиентов и создание инновационного фонда для дальнейшего изучения новых инструментов. Искусственный интеллект — это постоянный предмет повестки дня на заседаниях советов директоров, где обычно обсуждаются вопросы скорости внедрения и мониторинга прогресса. 

      Задача совета директоров — защищать интересы акционеров. Но поскольку искусственный интеллект в основе своей имеет столь разрушительные последствия (стратегические, операционные и конкурентные), совет директоров обязан по отношению к своим акционерам стимулировать и контролировать эти изменения. И чтобы в будущем ваша компания оставалась такой же актуальной, как и сегодня, пора всем членам совета директоров стать знатоками ИИ.