T.me Как машины спровоцировали финансовый кризис 2008 года? Может ли нечеловеческая логика машин поставить в тупик своего создателя и победить его? Есть ли неразрешимые для искусственного интеллекта задачи? Кто «отодвинул» академиков от выработки научной стратегии страны? Способен ли младший научный сотрудник решить судьбу школьного учебника для всей страны? Зачем учить школьника писать от руки? Обо всём этом и многом другом главному редактору «Аргументов недели» Андрею УГЛАНОВУ рассказывает известный математик, руководитель кафедры математической логики и теории алгоритмов МГУ им. М.В. Ломоносова, действительный член РАН по Отделению математических наук академик Алексей СЕМЁНОВ.
Мир Лобачевского
– Многие ваши работы касаются таких понятий, как пространство или реальность. Последние лет двадцать Голливуд всерьёз занялся параллельными мирами. Десятки фильмов на эту тему, от серьёзных типа «Начало» Нолана до волшебной параллельной реальности в мире Гарри Поттера. Возможна ли параллельная реальность с точки зрения математики?
– Вопросы возможности параллельных миров нужно адресовать скорее физикам, чем математикам. Математически возможно очень много разных вещей. И параллельный мир в том числе. Одно из достижений мировой математики в целом и российской в частности – это учение Лобачевского, который предположил, что через точку, лежащую вне заданной прямой, можно провести много прямых, которые не пересекутся с заданной. До него считалось, что можно провести только одну такую прямую, а остальные в любом случае с заданной прямой где-то пересекутся. Лобачевский же допустил иное, а величайший математик того времени Гаусс заявил, что он тоже это знал, только боялся сказать вслух. Но большинство учёных эту теорию признавать отказались, на это оказались способны только действительно выдающиеся умы. Так что математически это возможно. Вопрос в том, возможно ли это физически? Минковский, Пуанкаре, Гильберт и Эйнштейн построили картину реального пространства и времени, согласующуюся с представлениями Лобачевского. Математики в принципе идут впереди, потому что их задача очерчивать направление, которое потом приходится осваивать физикам.
– В начале этого года «хозяин» экономического форума в Давосе Клаус Шваб опубликовал книгу «COVID-19: Великое обнуление». В ней большое внимание уделяется новым возможностям мира с использованием цифровых технологий. По его мнению, очень скоро в мировом порядке международные корпорации станут основополагающим фактором для управления мировыми экономикой и политикой. То есть просто заменят собой правительства многих стран. Способен ли искусственный интеллект так трансформировать мир, что в нём отпадёт нужда в правительствах?
– Все эти сюжеты принадлежат не Швабу, а существуют уже десятилетия. Глобальные корпорации играют всё большую роль. Они имеют возможность работать в разных странах, невзирая на границы, поэтому у них больше возможностей, чем у национальных правительств. Они могут привлечь для решения своих задач больше ресурсов – и финансовых, и человеческих. На примере «Северного потока – 2» можно видеть, что интересы среднего гражданина Германии или России никого не интересуют, тут работают интересы финансовых и промышленных группировок, которые борются за свои интересы, и здесь экономика и политика тесно переплетены. В этой ситуации нужна переговорная площадка между национальными правительствами и глобальными структурами. И то, что Россия не стоит в стороне от глобального пути, – это хорошо.
– Поможет ли в этом искусственный интеллект?
– Участие тех или иных цифровых технологий в принятии решений – это очень существенный фактор. Есть точка зрения, что финансовый кризис 2008 года и последовавшие за ним потрясения были вызваны тем, что лица, принимающие решения, принимали их на основании советов вице-президентов по прогнозам, а они слушали экспертов следующего уровня. А эти эксперты свои рекомендации давали на основании выводов, которые уже тогда делали цифровые системы. Используемые цифровые модели были неподвластны человеку, он просто не понимал, как они работают. При этом та информация, которая вводилась в систему, не проверялась досконально. То есть машина на основании непонятно чего при помощи непонятных конечному потребителю алгоритмов давала прогноз, и человек действовал уже на основании этих прогнозов. После чего пошла цепочка неверных решений. Получилось, что люди, принимавшие решения, не понимали, на основании чего они эти решения принимали.
Это было 13 лет назад. Сегодня всё большее количество решений принимается на основании «Больших данных» (BigData). «Большие данные» сами по себе – очень неустойчивая вещь, и мы не понимаем до конца, как система машинного обучения принимает решения. Мы знаем, как здорово эта система работает как переводчик с одного языка на другой, даже с устным текстом. До этого машины обыграли всех гроссмейстеров в шахматы и в го. Международные гроссмейстеры и лучшие тренеры по шахматам не всегда понимали логику машины, почему она делает тот или иной ход. Но через 8 ходов оказывалось, что это был правильный, победный ход, противоречащий общепризнанной человеческой шахматной логике. Но ведь он мог быть и неправильным! Вот в чём проблема. В результате вредоносных или просто неверных данных, загруженных в обучающий массив BigData, неверные решения могут принять корпорации, от которых так много зависит в этом мире. И эта проблема уже соразмерна с теми плюсами, которые даёт BigData.
– Искусственный интеллект должен базироваться на каких-то своих понятиях, нам неведомых. Но чтобы что-то где-то произошло, нужно участие человека. Искусственный интеллект только вычисляет последствия и даёт рекомендации. Но в целом зачем мы ему нужны?
– Искусственный интеллект, как правило, даёт рекомендации, похожие на те, которые давал бы человек на его месте. Просто он имеет больше информации и обрабатывает её быстрее. Но цели ставит человек. Искусственный интеллект рассматривает множество вариантов достижения этой цели и выбирает оптимальный, с его точки зрения. Что вы ему зададите, то он и будет просчитывать. Так что важно правильно ставить задачи. Если в сложной задаче цели будут противоречить друг другу, он просто скажет, что решения нет.
Академики и учебники
– Вы – член экспертной комиссии Российской академии наук по оценке и анализу научного содержания федеральных государственных образовательных стандартов. То есть вы даёте правительству рекомендации по этой проблеме. Но академик Балега, с которым я недавно говорил, сказал, что к разработке будущих научных программ и направлений науки Российская академия наук не привлекается. Как такое могло случиться?
– Это грустная тема, как и многое, что касается науки в нашей стране. Положение Академии наук за последнее десятилетие трансформировалось от структуры, которая что-то должна делать и разрабатывать, до структуры, которая должна производить только экспертизу. Но теперь академию и к школьным учебникам не привлекают, хотя отдельные академики вполне могут это делать. Но академия никогда к созданию школьных учебников отношения напрямую и не имела.
– Если бы дело было только в учебниках! Речь о стратегии развития науки аж до 2030 года!
– Институты Академии наук раньше были частью общей структуры научных исследований в стране, которые координировались высокопрофессиональным сообществом членов академии, через её отделения и т.д. А сейчас это отдельные организации. У них упоминание РАН только в названии осталось. Их бюджеты и собственность в ведении Министерства науки и высшего образования. Что касается экспертизы учебников, то функции экспертного совета, членом которого я являюсь, сильно размылись. Раньше наше слово было решающим, а сейчас министерство может не слушать нашего мнения о том, что должно быть написано в том или ином учебнике. Это выглядит несколько странно и неестественно. С другой стороны, то, что академики оценивают школьные учебники, тоже неоднозначно. У них на это часто нет ни времени, ни сил, ни желания. Они перепоручают это дело своим подчинённым, те – дальше. И в итоге судьбу учебника для всей страны может решить младший научный сотрудник, который когда-то завалил экзаменатору учебника.
– Герман Греф объявил, что российское образование, которое базируется на советском образовании, совершенно избыточно и едва ли не приносит вред. Его тут же обвинили в участии в мировом заговоре, что он рупор мировой закулисы. Мои страхи немного развеял академик Бетелин. Он сказал, что образование определено как система услуг ещё в 1996 году и всё растёт оттуда. И то, что в образовании, направленном на инженерию, сегодня потребности нет, потому что нет потребности в самих инженерах и конструкторах. А нужны сейчас экономисты, доставщики пиццы и собачьи парикмахеры. Это так?
– Греф время от времени высказывается на темы образования, и эти высказывания часто носят провокационный характер. Многие мои друзья обиделись на него за то, что он обругал математические школы, мол, там готовят узких математиков, которые ничего не видят за пределами математики и бесполезны для реальной жизни. В беседах с ним я касался этих вопросов и думаю, что понимаю, о чём он говорит. Взятые вне контекста его взгляды действительно могут показаться вредным бредом. Но они всегда заставляют задуматься, посмотреть на то, что происходит, с новой стороны.
Нужно смотреть его слова в контексте, а главное, судить о человеке по его делам. Если отбросить в сторону теорию заговора, то задайте себе простой вопрос – стоило ли лет 10 назад отправлять своего ребёнка в технический вуз? Наверное, не очень. Не ясно, найдётся ли для него работа, а если и найдётся, то зарплата будет копеечная. Но тогда получается, что проблема выносится за рамки образования и слова Грефа оказываются верными – нужно учить детей тому, что нужно стране, обществу, да и ему самому, именно сейчас и через несколько лет. То есть это – вопрос экономики и стратегии развития страны. А образование обязано это учитывать. Именно об этом говорит Греф. А какова стратегия развития страны? История с «Роснано» очень поучительна. Распилены сотни миллиардов рублей. Государственные решения не заглядывают сейчас на перспективу в 30 лет, где будут, может быть, востребованы биоэлектроника, нанороботы, квантовые компьютеры. Они сиюминутны. А нужна именно стратегия, глядящая вдаль. А Греф давно из игры «на что тратить государевы деньги» вышел. Он куда-то инвестирует, участвует в распределении средств, но только как руководитель банка. Но решения принимает не он. Он работает с деньгами. Успешно работает. Вкладывает деньги в развитие высокоинтеллектуальных разработок. В том числе в области искусственного интеллекта, в которой в Сбере работают десятки тысяч людей. Государство денег недодало, а Сбер – даёт. Именно о таких перспективных инвестициях говорит академик Бетелин. Противоречия тут нет.
Пропасть между школой и жизнью
– Российский фонд фундаментальных исследований (РФФИ) в конце 2019 года запустил программу по исследованию фундаментальных основ цифровой трансформации школьного образования. Как с ней сейчас обстоят дела?
– Целью программы было исследовать, как цифровые технологии приходят в школу, что там с ними происходит и что стоило бы изучить. Был объявлен конкурс, в котором было несколько сот участников из 15 регионов страны. Более полусотни проектов реализуется. Проекты эти – очень разные. Например, Александр Николаевич Архангельский выдвинул идею трансмедийного освоения литературы, согласно которой курс литературы должен быть активным, т.е. произведение нужно не просто прочитать, но пережить, войти в диалог с автором, сделать какую-то инсценировку, трансформировать сюжет в его альтернативу, создать комикс, буктрейлер или ещё что-то подобное. Только таким способом сегодня можно привлечь учеников, заинтересовать их изучаемым материалом. Или взять русский язык. Мы учим детей писать от руки и заучивать «оловянный, деревянный, стеклянный». Зачем, спрашивается? Всё человечество пишет на клавиатуре, и ему компьютер подсказывает, как правильно пишется слово. А мы тратим огромное время ребёнка на это странное занятие. Это пропасть между школой и жизнью. Проект РФФИ – это попытка эту пропасть преодолеть.
– Работа РФФИ с этим знаменитым исследованием цифровой трансформации школы оказалась полезной?
– Эта программа была запущена в ноябре 2019 года. А с начала 2020 года «школьная страна» начала быстро двигаться в цифровую сторону, чему в немалой степени поспособствовали известные неприятные события с пандемией. Получилось, что исследователям довелось наблюдать процесс стремительного глобального изменения в стране и перехода каждого учителя и учащегося в стране в «цифру». Дети начали сидеть перед экраном и общаться с учителем в Сети. Получилось, что эта программа оказалась запущена в самый нужный момент.