наверх
20.10.201810:20
Курсы валют НБУ
  • USD28.18+ 0.15
  • EUR32.32+ 0.07

Алгоритмы, которые принимают решения вместо человека, опасны

Вирус Petya. Масштабная хакерская атака (168)

(обновлено: )1489090
Согласно опубликованному в 2017 году банком JP Morgan докладу, "на долю алгоритмов и автоматизированных компьютерных систем приходится почти 90% всего объема купли-продажи акций на биржах США".
Строчки с цифрами на экранах компьютера и ноутбука. Архивное фото

Владимир Матвеев, обозреватель

Эксперты обеспокоены отсутствием прозрачности и ясности в том, как именно используется искусственный интеллект в процессе принятия решений, в контексте того, что алгоритмы играют все более активную роль в нашей жизни.

В отличие от алгоритмов Google, Netflix или Facebook, многие из решений ряда компьютерных программ, не зависят напрямую от того, что мы делаем, сообщает Фернандо Дуарте для ВВС.

Более того, такие алгоритмы применяются все чаще и даже могут решать, кого из кандидатов следует приглашать на работу, с кем стоит отправляться на свидание и за кого голосовать на выборах.

ВВС приводит несколько примеров того, как алгоритмы, возможно, влияют на вашу жизнь.

Как сообщается, большая часть предоставленных компании на рассмотрение резюме отвергаются до того, как их увидит человек.

Это происходит из-за того, что все больше компаний используют системы Applicant Tracking Systems — компьютерные программы, которые автоматически управляют некоторыми стадиями найма, в особенности на стадии отсеивания непригодных кандидатов из многих поступающих резюме.

ВВС приводит оценки экспертов, согласно которым в США "свыше 70% поступающих резюме фильтруются искусственным интеллектом (ИИ) до того, как они попадают менеджерам". Это дает возможность компаниям экономить время и деньги, хотя не все уверены в непредвзятости подобных алгоритмов.

Так, по мнению ряда экспертов, компьютерные программы, свободные от человеческих сомнений и предпочтений, могут привести к новой, искусственной тенденциозности.

Кредитоспособность потенциального клиента также определяется алгоритмами, которые изучают данные из ряда источников — от истории закупок до того, какую информацию человек разыскивал в прошлом в интернете, а также "его поведение в социальных сетях". При этом сбор информации для оценки кредитоспособности может происходить "без ведома и согласия клиента".

Сделки на бирже все чаще основаны на расчетах компьютеров, чьи алгоритмы могут работать с высокой скоростью. Так, купля и продажа акций и других финансовых документов может быть заключена за доли секунды.

Наряду с этим начиная с 2010 года, после того как в результате неясного сбоя в компьютерной торговой системе произошел спад и "финансовые рынки США потеряли триллион долларов США", многие ставят рациональность использования машин под вопрос.

Согласно опубликованному в 2017 году банком JP Morgan докладу, "на долю алгоритмов и автоматизированных компьютерных систем приходится почти 90% всего объема купли-продажи акций на биржах США".

Искусственный интеллект также может помочь человеку в поиске любви, но "не с тем, кого вы ожидали".

Сообщается, что сайты знакомств применяют алгоритмы для рассылки информации о подходящих кандидатах, но неясно, "как именно они используют свои алгоритмы".

Согласно приведённым оценкам, только в США "рынок продаж программ искусственного интеллекта для системы здравоохранения вырастет с 670 млн долларов в 2016-м до 8 млрд долларов к 2022-му году". При этом данные оценки были сделаны до того, как Amazon объявил о намерении войти на рынок медицинских услуг.

Алгоритм может определить вашу наркозависимость и решить, предоставлять ли вам медицинскую страховку. Например, в штате Теннесси компания Blue Cross, предоставляющая медицинскую страховку, и компьютерная компания Fuzzy Logix объявили о создании совместного алгоритма, "способного проанализировать не менее 742 показателей, чтобы определить риск использования препаратов не по назначению или потенциальных наркозависимых".

При этом возникают этические проблемы, поскольку алгоритм исследует данные о медицинской истории человека, а также его личные данные.

По мнению экспертов, политтехнологов, алгоритмы все более важны в поисках поддержки избирателей.

Сообщается, что во многом, благодаря эффективному использованию алгоритмов, компьютерных программ эксперты штаба Барака Обамы в 2008 году выявляли избирателей, еще не принявших решение, за кого они будут голосовать.

Как сообщается, Эммануэль Макрон одержал неожиданную победу на президентских выборах во Франции, во многом благодаря применению подобной тактики. В частности, его штаб использовал алгоритмы для того, "чтобы определить, какие регионы Франции в наибольшей мере поддерживают перемены".

Киностудии также используют алгоритмы, чтобы определить, какие прибыли принесет фильм. Программы компаний, которые предлагают киностудиям свои услуги, не только "сравнивают сценарий с базой данных предыдущих фильмов", но и говорят, что "могут спрогнозировать, как повлияют на кассовый успех фильма корректировки сценария и выбор определенных актеров".

Полиция также прибегает к использованию алгоритмов, чтобы вычислить преступника. В частности, сообщается, что власти Китая "внимательно следят за поведением" своих граждан (1,3 млрд человек).

При этом в 2015 году правительство объявило о создании системы наблюдения "Полицейское облако", целью которой является попытаться спрогнозировать преступления. Этот алгоритм использует множество источников данных.

Помимо Китая, во многих местах в США полиция свыше десяти лет прибегает к компьютерной обработке данных. Некоторые полицейские силы Великобритании еще в 2012 году начали применять "алгоритмы криминальной картографии, прогнозирующие, в каких местах возможна вспышка преступности".

Согласно исследованию Королевского объединенного института оборонных исследований, сообщает ВВС, "алгоритмы в десять раз эффективнее для борьбы с преступлениями, которые могут произойти в будущем", чем бессистемное распределение полиции по городским районам.

В настоящее время компьютер также может принять решение, отправлять ли вас в тюрьму. В частности, "судьи как минимум в 10 штатах США определяют меру пресечения для преступников при помощи компьютерной программы COMPAS".

Читайте также: США одобрили сотрудничество с Украиной по кибербезопасности

Согласно ВВС, данный алгоритм оценки риска якобы может предсказать вероятность того, "совершит ли осужденный в будущем новое преступление".

Наряду с этим, как считает известный ученый-физик Стивен Хокинг, стремительное развитие искусственного интеллекта может представлять "угрозу для человечества", сообщает Daily Mail. Глава компаний Tesla Motors и SpaceX Илон Маск созвучен с ним, заявляя изданию Fortune, что основной угрозой для человечества является искусственный интеллект.

Самое читаемое
    Темы дня