Недавние исследования демонстрируют необычные, но важные тенденции. Ученые запускают искусственную нейронную сеть, имитирующую компьютер, на которой запускается другая нейросеть, обученная играть в Pong. Другие исследователи обучают импульсные нейронные сети «спать», решая проблему потери навыков при освоении новых. Аналогично, сон помогает человеческому мозгу консолидировать информацию. Эксперименты показали, что предоставление нейросетям периода «сна» позволяет им сохранять навыки после обучения новым, пока простейшим, задачам (например, различению съедобных и ядовитых объектов).
Проблема матрешки нейросетей и кризис микрочипов
Возникает вопрос: не проще ли создать множество взаимодействующих нейросетей, каждая из которых решает свою задачу? Одна распознаёт речь, другая ищет фильмы, третья регулирует освещение, четвёртая – звук, пятая отключает всё при обнаружении сна. Однако, на этом пути обнаруживается серьёзная проблема, мало обсуждаемая за пределами научных кругов: кризис на рынке микрочипов. Глобальные логистические сбои, конкуренция с художниками и писателями, запредельные цены на видеокарты, обвал крипторынков и падение спроса на микрочипы – всё это затмевает куда более важную проблему.
Предел физических возможностей кремниевых чипов и растущая потребность в вычислительных мощностях
Человечество приближается к пределу физических возможностей кремниевых микрочипов. Достижения в миниатюризации транзисторов, позволившие увеличить вычислительную мощность на единицу площади чипа, приближаются к своему пределу. К 2028 году будет достигнут рубеж в полтора нанометра, и дальнейшее уменьшение размера станет невозможным (согласно докладу ведущей организации в сфере микрочипов). Увеличение производительности будет достигаться за счёт увеличения количества устройств, что приведёт к росту энергопотребления, тепловыделения и стоимости. Параллельно с этим происходит стремительный подъём технологий искусственного интеллекта и машинного обучения, требующих всё больших вычислительных мощностей. Использование нейросетей в различных устройствах, от утюгов до космических аппаратов, сталкивается с ограниченными возможностями кремниевых чипов.
Иллюзия повсеместного ИИ и зависимость от облака; Закономерный рост энергопотребления нейросетей
Кажется, что системы искусственного интеллекта уже повсюду (нейрофильтры, Алиса, Siri), но это иллюзия, существующая благодаря облачным вычислениям. Наши устройства слишком слабы для самостоятельной работы сложных алгоритмов ИИ. Их интеллект находится «на удалёнке». Новые алгоритмы эволюционируют всё быстрее, требуя огромных вычислительных мощностей. Потребность в вычислительных мощностях для обучения нейросетей удваивается каждые 3,5 месяца. Обучение одной из самых мощных моделей, GPT-3, потребовало мощности одной-двух средних атомных электростанций на пару часов и около 5 миллионов долларов только на электричество. Новые модели, в три раза более точные, потребуют ещё больше энергии. Это создаёт ситуацию, где доступ к передовым технологиям ограничен лишь богатыми корпорациями и государствами.
Альтернатива: нейроморфные чипы и мемристоры; Вдохновение от природы
Старый подход к развитию ИИ, основанный на кремниевых чипах с архитектурой фон Неймана (где данные и программы хранятся в памяти, а вычисления происходят в процессоре), достигает своих пределов. Большая часть энергии тратится на перемещение данных между памятью и процессором. Альтернативой является нейроморфная архитектура, имитирующая работу человеческого мозга, где информация хранится и обрабатывается в одном месте – нейронах. Нейроморфные чипы позволяют значительно снизить энергопотребление. Например, автономная машина, имитирующая пчелу, использует в миллион раз меньше энергии, чем беспилотный автомобиль, при решении аналогичных задач навигации. Это достигается благодаря параллельной обработке информации, как в мозге. Примеры применения: робот, охотящийся за роботом-мышкой на нейроморфном чипе, искусственная кожа, сканирующая тело и обнаруживающая угрозы здоровью, потребляя при этом минимальное количество энергии. Большие надежды возлагаются на мемристоры – электронные устройства, способные одновременно обрабатывать и запоминать информацию, имитируя поведение синапсов в мозге. Они меняют свою проводимость в зависимости от проходящего электрического заряда. Хотя создание и объединение мемристоров в комплексные устройства сопряжено с трудностями (неточность, износ), исследования продолжаются. Учёные ищут вдохновение в природе. Например, сенсор влажности, созданный по принципу впитывания влаги слизью верблюда, или искусственная кожа, имитирующая способности осьминога к изменению формы и цвета, демонстрируют новые пути создания интеллектуальных машин.
Заключение: будущее нейроморфных чипов
Разработка и внедрение нейроморфных чипов – вопрос времени. Новое поколение связи (6G) позволит связывать множество устройств с минимальными задержками. Распространение нейроморфных чипов позволит создавать более сложные интеллектуальные системы и приблизит создание действительно разумных машин. Это может вызвать как энтузиазм, так и опасения, но развитие искусственного интеллекта неизбежно, и нам предстоит научиться сосуществовать с ним.