Магическое мышление о машинном обучении не приблизит новую реальность

Ещё в 1950 году в философском журнале Mind был описан тест Тьюринга — эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум». Тьюринг задался целью определить, может ли машина мыслить.

В 1956 году, на Дартмундской летней конференции, Рей Соломонофф написал отчёт о вероятностной машине, обучающейся без учителя, назвав её: «Индуктивная машина вывода».

В СССР большой в клад в развитие искусственного интеллекта внёс Д.А. Поспелов, который с 1968 года занялся исследованиями в этой области. Им был впервые в мире разработан подход к принятию решений, опирающийся на семиотические (логико-лингвистические) модели, который послужил теоретической основой ситуационного управления большими системами. Он создал теорию «наивных» псевдофизических логик, моделирующих рассуждения «здравого смысла» о времени, пространстве, действиях, каузальных цепочках и т.д., которая обеспечивает реализацию в интеллектуальных системах рассуждений о закономерностях физического мира и действиях в нем.

А недавно Джон Нотон написал для theguardian статью мимо которой я не мог пройти, так как она касается тех же (моих) профессиональных интересов.

«Любая достаточно продвинутая технология, — писал научный деятель Артур С. Кларк, — неотличима от магии».

Эта цитата, возможно, является самым пагубным высказыванием, которое когда-либо делал Кларк, потому что оно поощряет загипнотизированное мышление и принижает наши критические способности.

Ибо если что-то «волшебно», то по определению это необъяснимо.

Нет смысла задавать вопросы об этом, просто примите это таким, какое оно есть.

В настоящее время технология, которая больше всего привлекает магическое мышление, — это искусственный интеллект (ИИ). Энтузиасты изображают это как самое важное событие с момента изобретения колеса. Пессимисты рассматривают это как экзистенциальную угрозу человечеству: первая «сверхразумная» машина, которую мы создадим, станет началом конца для человечества; единственный вопрос после этого будет состоять в том, будут ли умные машины держать нас в качестве домашних животных.

Эксперты кажутся спокойными и оптимистичными, в то время как многие люди, кажется, блаженно не знают, что искусственный «интеллект», который они превозносят, на самом деле является относительно приземленной комбинацией машинного обучения (ML) и больших данных.

ML использует статистические методы, чтобы дать компьютерам возможность «учиться», т. е. использовать данные для постепенного повышения производительности при выполнении конкретной задачи без явного программирования. Система машинного обучения — это набор алгоритмов, которые принимают потоки данных на одном конце и выводят выводы, корреляции, рекомендации и, возможно, даже решения на другом конце. И эта технология уже повсеместна: есть практически везде при взаимодействия с Google, Яндекс, Amazon, Facebook, Netflix, Spotify и др. Дошло даже до того, что один выдающийся гуру искусственного интеллекта, Эндрю Нг, сравнивает ML с электричеством .

Для многих руководителей компаний машина, которая может узнать о своих клиентах больше, чем они когда-либо знали, кажется волшебной.

Возможно, если не включить критическое мышление, то останутся только они: и единственный вопрос после этого будет состоять в том, будут ли умные машины держать нас в качестве домашних животных.
Возможно, если не включить критическое мышление, то останутся только они: и единственный вопрос после этого будет состоять в том, будут ли умные машины держать нас в качестве домашних животных.

Неизбежно, корпоративный энтузиазм по поводу магических технологий вскоре распространился за пределы контроля за акциями супермаркетов для государственных органов. Машинное обучение быстро нашло свое отражение в прогнозировании трафика, «предиктивной» полицейской деятельности (выделяет области, где преступность «более вероятна»), решения об условно-досрочном освобождении и т. д.

Восстание расистских роботов — как ИИ изучает все наши худшие импульсы

Критики отмечают, что старая компьютерная поговорка «мусор на входе — мусор на выходе» также применима к ML. Если данные, на которых «учится» машина, являются предвзятыми, то результаты будут отражать эти предубеждения . И это может стать обобщением: мы, возможно, создали технологию, которая — как бы хорошо она ни рекомендовала фильмы, которые вам могут понравиться — может фактически превратиться в мощный усилитель социального, экономического и культурного неравенства.

Однако во всей этой социально-политической критике ML не вызывает сомнений идея о том, что сама технология технически обоснована, иными словами, любые проблемные результаты, которые она дает, в конечном итоге сводятся к недостаткам во входных данных. Но теперь оказывается, что и это не совсем правда. На самой последней конференции Nips(Neural Information Processing Systems) — огромном ежегодном собрании экспертов по ML — Али Рахими, одна из признанных звезд отрасли, бросил в аудиторию интеллектуальную гранату.

В замечательной лекции он сравнил ML со средневековой алхимией. Алхимики открыли металлургию и производство стекла в свое время.

Исследователи ML создали машины, которые могут побеждать чемпионов по Го и идентифицировать объекты на фотографиях. Но как алхимии не хватало научной основы, так и ML её не хватает. Исследователи, утверждал он, часто не могут объяснить внутреннюю работу своих математических моделей: им не хватает строгого теоретического понимания своих инструментов, и в этом смысле в настоящее время они работают в алхимическом, а не научном режиме.

Имеет ли это значение? Да. Как говорит Рахими:

Мы создаем системы, которые управляют здравоохранением и являются посредником в нашем гражданском диалоге. Мы должны влиять на выбор. Я хотел бы жить в обществе, чьи системы основаны на проверяемых, строгих, глубоких знаниях, а не на алхимии.

Я тоже. Мы построили то, что нам нравится называть цивилизацией на электричестве. Но, по крайней мере, мы понимали, почему и как это работает. Если Рахими прав, то мы с ИИ совсем не близки к этому — пока. Итак, давайте отдохнем от волшебного размышления об этом.

Оставить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

19 + 9 =