✅ИИ разоблачает анонимных шахматистов, создавая риски для конфиденциальности

 

Программное обеспечение определяет уникальные стили игры и может привести к улучшению учебных пособий и игрового процесса

Считаете, что дебют вашего слона, ферзевый гамбит и игра пешкой уникальны? Новый алгоритм искусственного интеллекта (ИИ) определил ваш шахматный стиль. Программное обеспечение ИИ уже может идентифицировать людей по их голосам или почерку. Теперь ИИ показал, что может помечать людей на основе их поведения при игре в шахматы, что является достижением в области “стилометрии”, которая может помочь компьютерам стать лучшими учителями шахмат или более человечными в их игре. Тревожно, что система также может быть использована для выявления и отслеживания людей, которые считают, что их поведение в Интернете анонимно.

“Угрозы конфиденциальности быстро растут”, - говорит Александра Вуд, юрист Центра интернета и общества Беркмана Кляйна при Гарвардском университете. Она говорит, что подобные исследования, когда они проводятся ответственно, полезны, потому что они “проливают свет на значительный способ потери конфиденциальности”.

Программное обеспечение для игры в шахматы, такое как Deep Blue и AlphaZero, уже давно является сверхчеловеческим. Но Эштон Андерсон, специалист по информатике из Университета Торонто и главный исследователь нового проекта, говорит, что шахматные движки играют почти в “инопланетном стиле”, который не очень поучителен для тех, кто хочет учиться или совершенствовать свои навыки. Им было бы лучше адаптировать свои советы к отдельным игрокам. Но сначала им нужно будет зафиксировать уникальную форму игрока.

Для разработки и обучения своего ИИ исследователи использовали обширный ресурс: более 50 миллионов человеческих игр, сыгранных на веб-сайте Lichess. Они собрали партии игроков, сыгравших не менее 1000 раз, и отобрали последовательности до 32 ходов из этих партий. Они кодировали каждый ход и передавали их в нейронную сеть, которая представляла каждую игру как точку в многомерном пространстве, так что игры каждого игрока образовывали группу точек. Сеть была обучена максимизировать плотность кластера каждого игрока и расстояние между кластерами разных игроков. Это потребовало, чтобы система распознала, что отличало стиль каждого игрока.

Исследователи протестировали систему, посмотрев, насколько хорошо она отличает одного игрока от другого. Они предоставили системе по 100 игр от каждого из примерно 3000 известных игроков и 100 свежих игр от неизвестного игрока. Чтобы усложнить задачу, они скрывали первые 15 ходов каждой партии. Система искала наилучшее совпадение и идентифицировала загадочного игрока в 86% случаев, сообщили исследователи в прошлом месяце на конференции по системам обработки нейронной информации (NeurIPS). “Мы не совсем поверили результатам”, - говорит Рид Макилрой-Янг, студент лаборатории Андерсона и основной автор статьи. Метод, не основанный на ИИ, был точен только на 28%.

“Работа действительно классная”, - говорит Ноам Браун, ученый-исследователь из Meta (материнской компании Facebook), который разработал сверхчеловеческих покерных ботов. Он с нетерпением ждет появления шахматных ботов, имитирующих действующего чемпиона мира Магнуса Карлсена, и говорит, что ИИ, ориентированный на стиль, может изменить другие компьютерные взаимодействия. “Существует большой интерес к чат-ботам, где у вас может быть чат-бот, который будет говорить в стиле Альберта Эйнштейна или что-то в этом роде”, - говорит он.

Исследователи осознают риски конфиденциальности, связанные с системой, которая может быть использована для разоблачения анонимных шахматистов в Интернете. По словам Макилрой-Янга, с помощью настроек он может сделать то же самое для покера. И теоретически, говорят они, при наличии правильных наборов данных такие системы могут идентифицировать людей на основе особенностей их вождения или времени и местоположения использования мобильного телефона.

Организаторы NeurIPS сочли исследование технически впечатляющим, но этически чреватым, и приняли его при условии, что исследователи подробно расскажут о рисках конфиденциальности. (Это может быть “интересно маркетологам [и] правоохранительным органам”, - прокомментировал один рецензент.) Андерсон говорит, что они решили пока не публиковать программный код.