«У Ілона Маска - параноїдальний підхід»

Наша взаимовыгодная связь https://banwar.org/

Світ переживає другу весну штучного інтелекту (ІІ) - вперше з 70-х років минулого століття в цю технологію активно вкладають гроші. Нова надія розробників пов'язана вже не з класичним програмуванням, але з машинним навчанням, зокрема з нейронними мережами, що імітує деякі особливості роботи людського мозку. Великі обсяги доступних сьогодні даних і дешеві обчислювальні потужності дозволяють буквально тренувати комп'ютери виконувати різні інтелектуальні завдання, такі як переклад тексту або аналіз зображень. Як технології машинного навчання змінюють світову економіку і яку роль в цьому відіграють дослідники з Росії? Про це «Новой» розповів Михайло Бурцев, керівник лабораторії нейронних систем і глибокого навчання Московського фізико-технічного інституту (МФТІ).

Петро Саруханов / «Нова газета». Перейти на сайт художника

- Г енеральний директор Google Сундар Пічаї недавно заявив, що створення штучного інтелекту (ІІ) за своєю значимістю потенційно перевершує відкриття людством вогню і електрики. Нинішня весна пов'язана з дослідженнями в області проектування і навчання нейронних мереж. Коли подібні системи з'явилися?

- Перші розробки в галузі ШІ відносяться до 1950-х років. З самого початку існувало два основних підходи до ІІ, які вирішують одні й ті ж завдання абсолютно різним чином. Перший підхід пов'язаний зі спробами змоделювати інтелектуальну діяльність людини, його поведінка - наприклад, то, як людина міркує. Це напрямок, який одержав назву символьний, або традиційний, ІІ, раніше вважалося найбільш багатообіцяючим і отримувало основну частину фінансування. Другий підхід передбачав моделювання нервової системи людини. Це і були нейронні мережі, які до останнього часу розвивалися на периферії. Потім, в 1970-і, був придуманий алгоритм навчання, який дозволяв нейромереж вирішувати завдання апроксимації функції. В цьому якраз проявилося основна відмінність нейронних мереж від класичних алгоритмів, в разі яких програміст повинен заздалегідь задати послідовність обчислень, необхідних для вирішення задачі. З нейросетями вам не потрібно знати цю послідовність - досить мати багато прикладів вхідних даних і правильних відповідей, а потім застосувати алгоритм навчання, який автоматично налаштує параметри нейромережі. В результаті нейросеть зможе вирішувати завдання не тільки для знайомих прикладів, але і для всіх інших випадків. Наприклад, вам потрібно навчити нейромережа відрізняти тістечка від бананів на картинках. Ви берете кілька тисяч картинок і розмічають їх - де тістечка, а де банани. Після цього навчаєте нейросеть передбачати правильну відповідь. Алгоритм вчиться узагальнювати навчальну вибірку, на якій він тренувався, і в підсумку може працювати з незнайомими картинками.

- Чому розквіт нейронних мереж почався саме в останні роки?

- Всі переваги нейромереж по-справжньому проявилися тільки тоді, коли у нас з'явилося достатньо даних для їх навчання. Як я вже сказав, нейромережі НЕ програмують в стандартному розумінні, їх тренують. Тому результат сильно залежить від обсягу даних: чим їх більше, тим вище якість рішення. По-друге, якість навчання залежить від розміру нейронної мережі. Чим вона більше, тим більше обчислень потрібно виконати, щоб її навчити. Якщо ми використовуємо невеликі обсяги даних - скажімо, сотні картинок - ми отримаємо якість, яка не буде перевершувати якість звичайного інженерного рішення. Але якщо ми використовуємо нейромережі з сотень тисяч нейронів і прикладів, то тоді алгоритми дозволяють суттєво зменшити рівень помилки. Раніше для цього нам не вистачало потужності - щоб натренувати сьогоднішні алгоритми, довелося б вважати цілий рік, причому без гарантій, що щось вийде. Тому ніхто і не пробував. Але коли в останні роки вдалося оптимізувати обчислення нейромереж на апаратній платформі графічних прискорювачів (на тій же платформі займаються Майнінг криптовалюта. - Ред.), Це призвело до розквіту цього методу.

Якщо ж говорити про інші форми машинного навчання, то перевага нейромереж, мабуть, пов'язано з тим, що ці алгоритми досить універсальні. Нейросети підходять для широкого спектру застосувань: можна будувати архітектури, які будуть підходити під різні класи задач. Все це в сукупності і дозволило їм вистрілити в останні п'ять років.

- Наскільки пристрій нейромереж відтворює будову людського мозку?

- Насправді нейромережі не надто сильно схожі на мозок. Швидше, вони інспіровані мозком, але не є його моделлю. Наприклад, алгоритм зворотного поширення помилки, який використовується для стохастичного градієнтного спуску при навчанні глибоких нейромереж, не має аналога в мозку. Так що швидше за це просто якийсь біоподобні алгоритм.

Михайло Бурцев. Фото: Олександр Щербак / ТАСС

- Є дослідники, які відстоюють ідею «нейроморфних» чіпів і штучних синапсів, які в точності відтворювали б роботу біологічних систем.

- Так, є цілий європейський проект Human Brain Project, на який виділили 1 млрд євро строком на 5 років. Планується спочатку повністю змоделювати мозок миші, а потім і людини. Поки це лише дослідницький проект, про перспективи застосування отриманих в цьому проекті моделей для вирішення практичних завдань говорити ще рано. Але думаю, в якомусь наближенні така модель все ж буде побудована, хоча наскільки точно вона буде відображати людський мозок - це відкрите питання. Очевидно, що в цій моделі не з'явиться свідомість.

- Як виглядають нейромережі, які сьогодні оточують нас в повсякденному житті?

- Яскравий приклад - машинний переклад (перекладачі від Google і «Яндекс»), який здійснюється за допомогою нейромереж. Алгоритми також використовуються для розпізнавання мови, перекладу голосу в текст, у всіх голосових інтерфейсів, наприклад в айфоне. Сюди ж варто віднести сортування картинок, коли можна фільтрувати їх не тільки за описом, а й за змістом. І звичайно, будь-який пошук в інтернеті сьогодні побудований на нейросетях. Взагалі, якщо подивитися на презентації, які показує Google, можна помітити, що частка їх внутрішніх проектів, в яких так чи інакше задіяні нейромережі, сьогодні наближається до 100%. Нейросети всюди, хоча іноді ми можемо про це навіть не здогадуватися.

- Ви в лабораторії МФТІ займаєтеся розробкою нейромереж. Розкажіть, в чому полягає ваш головний проект, iPavlov?

- Ми займаємося застосуванням нейромережевих методів до задач ведення діалогу. Сьогодні традиційна архітектура нейромережі виглядає наступним чином. Є кілька етапів обробки інформації, свого роду модулів. Перший відповідає за те, щоб зрозуміти висловлювання. Система повинна пізнати наміри користувача і класифікувати його запит. Потім, щоб відповісти на нього, потрібно проаналізувати текст запиту на предмет містяться в ньому параметрів завдання. Припустимо, мова йде про замовлення столика в ресторані. Спочатку алгоритм повинен зрозуміти, що зараз людина запитує наявність вільних місць. Потім потрібно дізнатися, який тип ресторану йому потрібен: вид кухні, ціновий діапазон і т.д. Для цього нейросеть виділяє так звані сутності - значення змінних, які описують характеристики завдання. Коли він отримав всю інформацію, алгоритм звертається до бази даних, фільтрує ресторани, дізнається наявність місць та генерує відповідь.

Тобто існує три основних етапи: розуміння запиту, управління діалогом і реалізація дії (надання відповіді користувачу). Приблизно так виглядає рішення задач сучасними розмовними системами.

- На якому етапі розробки знаходиться ваш алгоритм?

- Поки що на самому ранньому. Ми можемо допомагати оператору техпідтримки, видаючи йому найбільш релевантні відповіді на запит користувача. Або сортувати повідомлення користувачів: система допомагає направляти запит до правильного фахівця. Але навіть ці функції вже значно прискорюють процес відповіді на запити клієнтів. Друга частина нашого завдання полягає в тому, щоб замінити нейромережею ту частину діалогового інтерфейсу, яка визначає правила поведінки системи, - наприклад, коли потрібно задати додаткове питання, коли відправити запит в бази даних і т.д. Зазвичай це поведінка задає програміст, але ми хотіли б, щоб єдиний алгоритм навчався вести діалог повністю самостійно.

- Є багато прикладів, коли алгоритми складали пісні, писали сценарії для кінофільмів або займалися сучасним образотворчим мистецтвом. Ви бачите потенціал нейромереж у вирішенні творчих завдань?

- Нейросети дозволяють генерувати більш-менш адекватні варіації, з яких людина може вибирати кращі. Очевидний приклад - це перенесення стилів зображень, коли можна, наприклад, перенести імпресіоністський стиль з картини на фотографію. Тут виникає широке поле для експериментів: можна взяти будь-який елемент і використовувати його для створення якогось образу, причому зробити це за одну хвилину. З іншого боку, зрозуміло, що в мистецтві не тільки форма грає роль, але і деякий контекст, в якому цей твір створюється. І тут, звичайно, нейромережі нічого запропонувати не можуть.

З точки зору генерації якихось сюжетів і взагалі тексту нейросеть можна навчити наслідувати стиль письменника, але вона не зможе виробляти довгі пов'язані послідовності пропозицій. Поки що ніхто не знає, як зробити такий алгоритм, який зміг би вловити сюжет, правильні відносини між частинами тексту.

- Наскільки добре ми самі сьогодні розуміємо «сенс» роботи алгоритмів? Багато експертів говорять, що занадто складний пристрій нейромереж може приховувати в собі потенційну небезпеку для людей.

- Думаю, особливої ​​небезпеки тут немає. Ми багато чого не знаємо про те, як працюють якісь складні програмні продукти. Наприклад, про операційні системи можна сказати те ж саме. Ми не можемо проаналізувати всі варіанти поведінки ОС - програмісти затикають дірки, тільки коли бачать, що щось працює не так. Це пов'язано з тим, що система складається з багатьох компонентів, і складно передбачити, як вони себе поведуть. Приблизно те ж саме з нейросетями. Так, ми можемо не знати, як саме вона працює. З іншого боку, якщо нейросеть по зображеннях МРТ діагностує рак легенів в два рази точніше, ніж найкращий фахівець, багатьом буде все одно, як саме вона влаштована.

- Тобто поки що немає приводів побоюватися, що в світі майбутнього суперкомп'ютери будуть самостійно програмувати один одного, а люди, в тому числі програмісти, залишаться без роботи?

- В принципі, можна написати програму, яка буде створювати інші програми, - це цілком нормально. Інша справа, що поки це не дозволяє перетнути певний рівень складності, можна лише поліпшити вирішення завдань в обмеженому інтервалі. В майбутньому вплив програмістів тільки посилиться, швидше треба думати про тих людей, які зайняті рутинною, найчастіше бюрократичною роботою. Використання технологій автоматизації праці навіть без методів глибинного навчання - візьмемо всілякі єдині інформаційні системи - позбавляє людей роботи в масовому порядку. У будь-якому випадку впровадження нових технологій не можна зупинити, скільки б ти з цим не боровся. Потрібно думати про те, як перейти до них з мінімальним стресом для суспільства.

- В такому разі сам термін «штучний інтелект» виглядає не зовсім коректно.

- На мій погляд, термінологічні суперечки більше цікаві з точки зору бесіди інтелектуалів, а не в практичному плані. Сьогодні під ІІ розуміється деякий набір технологій, що дозволяє автоматизувати завдання, які раніше вважалися інтелектуальними, ось і все. Інша грань цього поняття - це створене в кіно та літератури уявлення про те, що роботи мають розум, порівнянними з людським. Це абсолютно різні речі, просто не треба їх змішувати.

- Такі люди, як Стівен Хокінг і Ілон Маск, цілком серйозно називають виникнення суперінтелекту загрозою для існування людства.

- У них сформувалися завищені очікування зростання в галузі ШІ, оскільки вони безпосередньо не беруть участі в цій роботі. І звичайно ж, в цьому сенсі вони не приносять користь реальним дослідженням, оскільки швидше за лякають людей. Якщо говорити про Маска, то, думаю, він намагається мінімізувати всі можливі ризики, і тому у нього злегка параноїдальний підхід до цієї теми.

- Протиріччя нових технологій добре помітні на прикладі Китаю. З одного боку, через величезної кількості доступних даних в минулому році Китай вперше обійшов США за обсягом інвестицій в ІІ. У той же час вважається, що одна з причин зростання інвестицій - це прагнення китайської влади налагодити масову стеження за громадянами.

- Добре чи погано швидкий розвиток штучного інтелекту - залежить від того, як ви сформулюєте питання. Якщо подивитися на ІІ як на глобальну технологію, яка дозволяє національним компаніям виходити на світовий ринок, то наявність великого обсягу даних і інвестицій дає Китаю якусь фору і збільшує його шанси стати сильним гравцем. Якщо ж говорити про застосування ІІ для розпізнавання осіб, то зрозуміло, що ця технологія сама по собі нейтральна і може бути впроваджена де завгодно. Наприклад, восени одна з російських технологічних компаній відзвітувала про те, що пілотне впровадження на станціях метрополітену технології розпізнавання осіб дозволило за місяць затримати 15 розшукуваних злочинців. В цьому плані ефект, звичайно, позитивний.

- Чи є у Росії шанси в світовій гонці розробників ІІ?

- Окремі російські програмісти і математики дуже конкурентноздатні, вони працюють у великих західних компаніях або створюють власні стартапи (наприклад, «віртуальний друг» з мільйонами користувачів Replica або популярне мобільний додаток для перенесення стилів зображень Prisma). Хлопці з Росії також регулярно посідають призові місця в змаганнях по машинному навчання. Але якщо в цілому дивитися на ландшафт ринку ІІ, то, звичайно, Росія тут практично непомітна. Наприклад, в рейтингу країн по цитованості статей в галузі ШІ ми знаходимося на 42-му місці. Причому проблема тут не тільки в грошах для науки, треба ж ще десь знайти кадри. Залучати людей із західних компаній до Росії, створювати умови для наукових досліджень і організації стартапів. Це непросте завдання. Китаю вдається розв'язати цю проблему за рахунок того, що зарплати в цьому секторі там зараз навіть трохи вище, ніж в Силіконовій долині. Люди повертаються, тому що для них створені більш комфортні умови. Ймовірно, це можна повторити і в нашій країні. Так, для вирішення цього завдання на фізтеху в цьому році створюється національний центр компетенцій в області штучного інтелекту. Цей центр об'єднає проведення досліджень по ІІ і підготовку кадрів.

Для Росії нейромережі були б дуже гарною можливістю вийти на світовий ринок. По-перше, при виробництві ПО не встає питання з транспортуванням продукції в будь-яку точку світу. По-друге, алгоритми дуже легко модифікувати, щоб вони підходили для будь-якої мови.