«Бояться искусственного интеллекта нормально, но мы далеки от «Скайнета»

Брайан Катанзаро — вице-президент подразделения прикладных исследований в области глубокого обучения в NVIDIA, приезжавший в Россию на конференцию AI Journey в начале ноября. Но это слишком серьезно и официально. На самом деле Брайан — человек, который точно знает, нужно ли нам бояться искусственного интеллекта. А еще он обожает Россию: жил здесь два года и до сих пор говорит на русском языке. Мы поговорили с ним про ИИ, русскую культуру и Илона Маска.

Давайте сразу разберемся: почему мы говорим с вами на русском?

— В моей культуре принято, что молодой человек, когда ему исполняется 18-19 лет, должен провести два года в совершенно другой стране практически как монах. А уже после этого вернуться в общество и продолжить обучение.

Мне повезло — меня послали в Сибирь. Я не знал ничего о России, не знал русского. Я вырос в Южной Калифорнии и не представлял, что такое жизнь на Урале. Я прилетел в Россию в 1998 и прожил тут два года. Все это время я много общался с местными жителями и старался быть полезным. Это были сложные времена для России: я помогал людям на их дачах, работал волонтером в домах инвалидов, организовывал доставку материальной помощи из Америки. Удивительное время моей жизни: не думаю, что много американцев в моем возрасте вдруг обнаруживали себя в самом центре России.

Как вы учили язык?

— У меня не было выбора: никто вокруг не говорил на английском. Каждый день я по два часа изучал словари русского языка, читал литературу. А в остальное время стремился говорить с людьми. До сих пор уверен, что эти два года очень повлияли на мою карьеру: я научился смотреть на жизнь иначе. По работе меня заботят разные технические проблемы, но время в России и сейчас помогает слушать людей и доносить до них свои идеи. Я научился говорить — во всех смыслах.

Что из русской культуры вдохновляет вас?

— Очень многое! Я очень люблю музыку Чайковского и Рахманинова, книги Достоевского, Толстого. Мой любимый роман — «Анна Каренина», и я знаю, что это не очень оригинально, но обожаю его. Люблю стихи Пушкина. Самый главный фильм для меня — «Человек с киноаппаратом», а еще фильмы Тарковского.

Какой по счету приезд в Россию у вас сейчас?

— Я был здесь всего один раз до этого, как раз во время проживания! Екатеринбург, Челябинск, Пермь и даже Тюмень — вот мой список посещенных городов до этого. В Москве даже не останавливался раньше. 20 лет не был в России, очень рад вернуться.

Брайан Катанзаро

Что изменилось?

— Ха, всё! Всё выглядит совсем не так, как 20 лет назад. Думаю, многим людям стало жить легче. Я был здесь в тяжелые времена для страны, мне кажется, с того времени многое сильно развилось. Стало чище, красивее и выше.

А технологии? Вы следили за технологическим развитием России эти годы?

— Сегодняшняя Россия — это передовая страна, в которой есть абсолютно все ведущие технологии, как во всем мире. 20 лет назад так сказать было нельзя. Сейчас все иначе. У вас дешевый интернет? Нет, знаешь, я об этом не слышал. Но верю тебе!

Вы приехали ради презентации чего-то нового?

— Да, у меня две цели. Первая — разговорный ИИ, который мы делаем. Эта технология может решать самые важные проблемы, вплоть до того, как должны уживаться на планете 8 миллиардов человек. Нам нужно разговаривать с компьютером, например, чтобы не звонить в банк для решения проблемы. Над этим работают многие большие компании, и удалось достичь большого прогресса.

Вторая — Video and Image Synthesis, или синтез видео и изображений с помощью ИИ. Даже если вы не умеете рисовать, вы задаете общее направление, и компьютер с помощью ИИ создает картинку за вас.

Технология обработки и создания графики может быть использована для каких-то полезных вещей или только для развлечений?

— Думаю, оба направления. Вы можете развлекаться, а можете решать задачи, скажем, если вы архитектор или инженер-конструктор. Мы постоянно развиваем нашу технологию: например, сейчас мы повышаем количество типов изображений, которые она понимает и может создавать. Плюс мы работаем над синтезом видео и уже получаем интересные результаты: мы смогли превратить статичное изображение в анимацию.

Как вы обучали нейросеть для понимания изображений?

— Мы просто брали фотографии с пейзажами из интернета и с помощью другой технологии учили систему определять, что где находится на изображении. Где дерево, а где — озеро. Так получаются карты сегментов, по которым обучается наша программа. Плюс, конечно, в нее надо загрузить около миллиона изображений.

Как ИИ помогает улучшать игровой опыт?

— Все просто, если мы выведем разговорный ИИ на нужный уровень, это позволит геймерам общаться с компьютером. Плюс есть несколько игр, в которых ИИ повышает FPS и делает картинку лучше.

В России боятся ИИ, не понимая до конца, как это работает. Люди боятся «Скайнета»...

— Так во всем мире, не только в России. Иногда я даже устаю от того, как часто мне задают этот вопрос. Мы очень далеко от «Скайнета», и я не боюсь. Может, все потому что я вижу ограничения возможностей технологий прямо сейчас. Сегодня ИИ очень хорошо запоминает данные, и это помогает решать проблемы. Но сейчас нельзя сказать, что ИИ думает. Он может обрабатывать информацию, которую мы даем. Может подбирать ассоциации. Но не может думать.

То есть, это просто вопрос поколения, и наши дети уже не будут так бояться ИИ?

— Думаю, нет. Люди всегда будут бояться, для нас это естественно. В кино постоянно рассказывают, как злой ИИ хочет поработить человечество. Мы боимся ИИ, это очень глубоко в нас, и наверняка это будет и в наших детях. Но пока технологии очень далеко от того, чего все боятся.

Вы согласны, что уже совсем скоро ИИ может оставить многих людей на земле без работы?

— Думаю, что это уже происходит. Но мне кажется, что это хорошо для всех. И проблема только в скорости происходящего. Людям страшно от того, что это происходит быстро. Думаю, на самом деле это явление по факту намного страшнее идеи ИИ, превращающего людей в рабов. Быстрые перемены в обществе могут привести к проблемам.

Вы допускаете, что большие компании и большие политики могут искусственно тормозить развитие технологий для избегания подобного кризиса?

— Наверное, это возможно, но я надеюсь, что ничего подобного не случится. Потому что в целом перемены нужны. Сто лет назад мой дедушка работал на ферме, и он не представлял, что я буду работать в ИИ. Он вообще не представлял наш нынешний мир. Но при этом работа фермера важна и сейчас — людям надо кушать! То есть, было много перемен, но ничего страшного не случилось: мир стал только лучше и богаче. Сто лет назад мы с тобой тоже работали бы на ферме или фабрике. И я рад, что не делаю этого сейчас, хотя фабрики по-прежнему очень важны. У меня другая жизнь, у моих детей будет еще более другая. Это прогресс, это развитие. И для него необходимы перемены.

Брайан Катанзаро

Как вы сами используете ИИ в бытовой жизни?

— У меня есть «умный дом», а еще «Тесла» с функцией беспилотного управления. Но, знаешь, я не доверяю этому режиму и не позволяю себе уснуть за рулем, просто включив его. Хотя в целом технологии этой машины, включая ИИ, облегчают мне жизнь. Думаю, я не доверял бы беспилотному режиму до конца, даже если бы сам работал над этой технологией.

Насколько умный ваш дом?

— Могу сказать, что мой умный дом — глупый дом. Я очень люблю его, но есть вечная проблема с этими компьютерами. Например, он может включить отопление летом, когда на улице 40 градусов. Почему? Умный дом решил так! Очевидно, есть какая-то программная ошибка между компьютером и отоплением, и я должен потратить два часа, чтобы исправить ее. Но где мне найти эти два часа?! Поэтому я просто выключаю отопление вручную.

Вы переживаете за безопасность вашей личной жизни со всеми технологиями вокруг?

— Я понимаю, почему это беспокоит многих людей, но лично я не сильно переживаю. Думаю, что моя жизнь не очень интересная для кого-то постороннего. А еще компании, производящие разные умные колонки, напрямую заинтересованы в нашем доверии. Для их бизнеса плохо, если мы будем бояться умных колонок. Но в целом эта проблема доверия, а не технологий, поэтому я не знаю, как ее решить.

В вашей американской лаборатории есть русскоязычные сотрудники?

— Да, со мной работает более 40 человек, и среди них есть ребята из бывшего СССР. Конечно, даже с ними мы общаемся на английском. Американские компании заинтересованы в поисках талантов по всему миру, а в России много талантливых людей. Особенно это касается программистов: почему-то у вас очень хорошая культура программирования. А я люблю работать с русскими еще и потому, что я люблю Россию.

Когда вы начинали работать над этим направлением в NVIDIA, вы были одним представителем своей лаборатории?

— Да! Потому что у лаборатории была другая цель: работа над развитием GPU (графический процессор, — прим. ред). Тогда я создал прототип библиотеки CUDNN, на которой все делают свои нейросети сегодня. Это показало руководству NVIDIA перспективность направления. Но в тот период я ушел в Baidu, чтобы больше работать над практическим применением ИИ.

Я многому научился, но в то же время понял, что у американца в китайской компании есть много ограничений. Язык, разные часовые пояса с головным офисом — все это осложняло работу. Удачно, что меня попросили вернуться в NVIDIA именно в тот момент.

Еще 10 лет назад нейросети казались чем-то устаревшим, как получилось перерождение технологии?

— Первоначально нейросети изобрели в СССР еще в 60-х, очень давно. Но алгоритмы улучшились, мы стали лучше их понимать. Еще сейчас у нас огромный объем данных, чтобы пробовать новые идеи. Плюс компьютеры стали намного мощнее, чем раньше.

Как вы относитесь к исследованиям по объединению человеческого мозга и компьютера?

— Думаю, что лично я использовать такое точно не буду! Но я рад, что есть люди, работающие над этим, поскольку исследование может быть крайне интересным. Вижу большие проблемы в том, чтобы это использовалось на практике.

Это исследование — одна из десятка идей Илона Маска. Что вы думаете о нем?

— Я люблю хорошую работу. Безусловно, он изменил мир: его ракеты, его «Тесла». У него большие идеи, которыми он меняет мир к лучшему. Но, думаю, он довольно мало знает об ИИ. У них есть лаборатория OpenAI, очень хорошая, с классными специалистами. Но Маск основал ее с идеей злого ИИ, от которого надо защищаться. Я не согласен с ним в этом. ИИ не злой, а просто немного глуповатый. Может, Маск окажется прав, но я с ним не согласен.

Мы начали разговор с обсуждения российской культуры. ИИ сможет однажды снимать фильмы на уровне Тарковского?

— Думаю, до этого очень далеко. Но через ИИ Тарковский будущего сможет создать очень красивый мир.