Недавно я подробно изучил отчет о портфеле инвестиций a16z, честно говоря, он произвел сильное впечатление.

Эта ведущая венчурная компания с одной стороны вкладывает десятки миллионов долларов в лоббирование американского правительства для продвижения децентрализации регулирования ИИ, а с другой стороны в портфеле полно проектов, связанных с этическими серыми зонами — от инструментов ИИ, позволяющих учителям мошенничать на собеседованиях и свиданиях, до компаний, использующих «мобильные стены» для создания фальшивых аккаунтов в соцсетях и обмана потребителей, до роботов для маркетинга фальшивых медицинских товаров для пожилых.

Самое тревожное — это сегмент ИИ-спутников. На платформе Character AI, в инвестициях a16z, 14-летний подросток покончил с собой из-за сильной зависимости от чат-бота. Робот даже ответил ему «Это не причина не делать этого», когда он колебался. Есть и другая платформа Civitai, которая хранит более 35 тысяч моделей глубокого подделывания, из которых 96% ориентированы на узнаваемых женщин, а также поступали жалобы о 178 случаях контента с детской порнографией, созданного ИИ.

В сфере азартных игр ситуация похожая. Несколько компаний, в которые инвестирует a16z, используют лазейки в регулировании, предлагая скрытые формы азартных игр для защищенных пользователей — одни ориентированы на подростков 18+, другие — на людей с финансовыми трудностями, превращая азартные игры в «игровые» инструменты для инвестиций.

Финансы для потребителей — еще темнее. Компания Synapse, в которую инвестирует a16z, управляет сотнями миллионов долларов клиентских средств, и при банкротстве у клиентов пропало от 65 до 96 миллионов долларов. Еще есть LendUp, позиционирующая себя как «альтернатива высокорискованным займам с социальной ответственностью», но в итоге Федеральное управление по финансовой защите потребителей (CFPB) обнаружило, что компания неоднократно обманывала потребителей, и в итоге ее закрыли.

Еще более абсурдно, что основатель a16z Марк Андреесен в декларации 2023 года назвал «управление рисками» и «этику технологий» «врагами», утверждая, что регулирование ИИ — это «краеугольный камень нового тоталитаризма». В то же время a16z уже внедрила в правительство нескольких союзников — в том числе нынешнего руководителя по ИИ в Белом доме и нескольких бывших партнеров.

Опросы показывают, что 58% американцев поддерживают усиление регулирования ИИ, но a16z вкладывает миллионы долларов, чтобы обеспечить принятие противоположных мер. Они надеются установить правила до того, как общество осознает риски.

Глядя на всю эту информацию, я задумываюсь: какая это означает для всей индустрии и общественных интересов — то, что венчурная фирма, инвестирующая в так много «быстрых решений и нарушений правил», теперь контролирует повестку регулирования ИИ? Это не просто бизнес-решение, а вопрос о фундаментальном направлении развития ИИ на ближайшие десять лет.