Совпадения и разногласия
Мнения Курцвейла и Хинтона во многом схожи, особенно в оценке опасностей и преимуществ развития ИИ. Однако существуют и расхождения, например, в вопросе скорости развития ИИ и отношении к вечной жизни.
Человеческий разум и креативность против ИИ
Несмотря на впечатляющие возможности генеративного ИИ, его создание и программирование остаются прерогативой человека. Авторы алгоритмов определяют возможности ИИ. В долгосрочной перспективе Курцвейл не видит причин, по которым компьютеры с нейросетями не смогут превзойти людей в творческих областях. Хинтон, напротив, подчеркивает изменение восприятия ценности произведения, созданного ИИ. Курцвейл предвидит слияние человека и компьютера как естественный процесс, в то время как Хинтон выражает озабоченность по поводу скорости этого слияния.
ИИ и научные открытия
Оба учёных сходятся во мнении о потенциале ИИ в ускорении научных открытий. Курцвейл приводит примеры AlphaFold, AlphaGo и AlphaZero, демонстрирующие исключительную креативность ИИ в узких областях. Хинтон подчеркивает роль ИИ в создании вакцины от COVID-19 и перспективных разработках вакцин от рака, отмечая способность ИИ находить незаметные для человека аналогии и сходства.
Интеллект, разум и сознание
Учёные обсуждают размытые границы понятий «интеллект», «разум» и «сознание». Курцвейл ссылается на мнение Марвина Минского, отвергавшего научность понятия сознания, но считает сознание реальным. Хинтон фокусируется на «субъективном опыте» и критике модели «внутреннего театра» для понимания разума, полагая, что чат-боты уже обладают подобным опытом. Курцвейл подчеркивает важность осторожности в использовании термина «сознание» из-за связанной с ним ответственности.
Смертность и бессмертие
Хинтон считает людей смертными по своей сути, отмечая аналоговую природу мозга в отличие от цифрового ИИ. Курцвейл соглашается с возможностью «восстановления» цифрового ИИ, в то время как воспроизведение человеческого мозга невозможно. Оба учёных признают возможность сохранения и воспроизведения нейронных сетей ИИ.
Скорость развития ИИ и сингулярность
Курцвейл отмечает, что развитие ИИ опередило его прогнозы. Он упоминает сингулярность — точку, после которой предсказания становятся невозможны. Хинтон считает, что сверхинтеллект может появиться в течение ближайших 5-10 лет, но признаёт высокую степень неопределённости и не верит в резкое ускорение развития ИИ после достижения определённого порога.
Риски и возможности: открытый доступ и контроль
Учёные обсуждают риски, связанные с распространением мощных языковых моделей, включая возможность их использования в преступных целях. Хинтон выступает против открытого доступа к моделям, ссылаясь на относительную дешевизну их обучения и риск недобросовестного использования. Курцвейл более оптимистичен, полагаясь на преимущество «добрых» сил в контексте доступа к ресурсам.
Дебаты Курцвейла и Хинтона подчеркивают как огромный потенциал, так и значительные риски, связанные с быстрым развитием ИИ. Мнения учёных во многих вопросах сходятся, но разногласия по темпам развития и подходам к регулированию ИИ остаются. Дискуссия поднимает важные этические и философские вопросы.