Опасности нерегулируемого искусственного интеллекта

Искусственный интеллект влияет практически на все сферы жизни. Однако пока его использование приносит обществу больше ущерба, чем обещанных выгод, – и проблема тут не в самой технологии, а в ее применении, считает экономист Дарон Аджемоглу.

Искусственный интеллект (ИИ) часто называют самой потрясающей технологией нашей эпохи, обещающей преобразовать экономику, жизнь и возможности человека.

В последнее десятилетие развитие ИИ действительно было очень успешным, особенно в области разработки новых методов обработки статистической информации и машинного обучения, которые позволяют работать с огромными массивами неструктурированных данных.

Это уже повлияло практически на все сферы деятельности человека: алгоритмы ИИ сегодня используются всеми онлайн-платформами и в различных отраслях, от производства и здравоохранения до финансов и оптовой и розничной торговли. Полагаться на ИИ стали и государственные учреждения, в частности судебная система, таможенный и иммиграционный контроль.

ИИ, контроль информации и товарные рынки

Дарон Аджемоглу считает, что новейшие ИИ-технологии, особенно те, что базируются на доминирующей сегодня парадигме распознавания статистических закономерностей и обработки массива данных, с большей вероятностью ведут к негативным социальным последствиям, нежели приносят обещанную пользу.

Главная проблема заключается не в технологиях ИИ как таковых, а в том, как к данным и их использованию подходят ведущие компании, которые оказывают огромное влияние на то, в каком направлении развиваются эти технологии.

Пример – применение машинного обучения и использование больших данных в рекламе и разработке новой продукции. Хотя в принципе использование этих методов может дать потребителям преимущества – например, за счет улучшения качества товаров и возможности адаптировать продукцию к индивидуальным потребностям, – в конечном итоге применение ИИ в этой сфере может иметь ряд негативных последствий для благосостояния потребителей.

Прежде всего, фирмы, которые получают больше информации о своих клиентах, могут использовать ее для ценовой дискриминации, потенциально забирая себе все больше экономической ренты, которая в ином случае оставалась бы у потребителей.

Применение новых технологий в других сферах может причинять потребителям еще больше вреда. К примеру, онлайн-платформы могут получить контроль над огромным объемом данных, поскольку, когда они собирают или покупают информацию об одних пользователях, они также получают доступ к данным о других пользователях.

Такого рода экстерналии данных чаще всего связаны с тем, что люди выкладывают в открытый доступ информацию о своих друзьях и контактах или делятся информацией, имеющей отношение к информации о других людях той же самой демографической группы.

Что еще хуже – компании могут использовать свое информационное преимущество с точки зрения знания о предпочтениях потребителя для того, чтобы манипулировать его поведением. Экономические модели строятся исходя из предположения, что решения потребителей всегда в полной мере рациональны и не предполагают такого манипулирования. Однако оно вполне вероятно, когда потребители не в полной мере осознают, насколько много новых методов сбора и обработки данных используется для того, чтобы отслеживать и прогнозировать их поведение.

ИИ и неравенство на рынке труда

Влияние ИИ-технологий на рынок труда может быть еще более пагубным. Многие данные свидетельствуют о том, что рост неравенства на рынках труда в США и нескольких других развитых экономиках частично вызван быстрым внедрением автоматизированных технологий, которые замещают работников с низкой и средней квалификацией.

Другие формы использования ИИ могут иметь еще более серьезные негативные последствия. К ним относится применение алгоритмов и данных о сотрудниках с тем, чтобы усилить мониторинг их работы. Когда работники получают часть ренты, которую зарабатывает фирма (это могут предусматривать условия договора), более тщательное отслеживание их деятельности может быть выгодно компаниям, желающим вернуть себе часть этой ренты. Но такое перемещение ренты социально неэффективно – это затратная и дорогостоящая деятельность, которая не способствует увеличению общественной выгоды, а лишь перераспределяет ее от одной группы агентов к другой.

Итоги и выводы

Дарон Аджемоглу отмечает, что ИИ – многообещающая технология. Проблема же заключается в текущем направлении развития и использования ИИ – для расширения прав и возможностей корпораций (а иногда и правительств) за счет работников и потребителей. Текущий подход является следствием бизнес-практик и приоритетов корпораций, которые сегодня контролируют ИИ.

Например, социальные сети и другие платформы стараются максимизировать вовлеченность пользователей за счет всевозможных привлекающих «приманок». Эта цель коренится в их бизнес-модели, которая, в свою очередь, сосредоточена на монетизации данных и трафика за счет размещения рекламы. Это возможно благодаря тому, что данная сфера не регулируется.

Текущие проблемы с ИИ – это проблемы нерегулируемого ИИ и игнорирования масштабных последствий этого для общества. Было бы наивно ожидать, что нерегулируемые рынки сделают правильный выбор между общественным благом и прибылью от монополизации данных.

Но проблема заключается не только во власти монополий. Даже если бы число крупных технологических компаний не ограничивалось несколькими нынешними гигантами, нет гарантии, что у них были бы разные бизнес-модели и разный подход к использованию ИИ.

Поэтому политика в отношении ИИ должна быть сфокусирована на том, чтобы перенаправить само развитие технологий: от автоматизации и сбора данных, расширяющих власть корпораций, – на методы, которые создают новые возможности работникам и гражданам.

Читайте нас в: