Рей Курцвейл — главный исследователь и визионер ИИ в Google, автор бестселлера “Сингулярность близка”. Немалая доля предсказаний учёного уже сбылись и сегодня, в отличие от прошлого, многие предсказания уже не кажутся такими сумасшедшими.
В честь выхода своей новой книги “Сингулярность ближе” в конце июня 2024 Рей дал интервью изданию the Guardian, в котором рассказал о своих ожиданиях в сфере развития ИИ и будущего. Представляем вашему вниманию наш перевод этой действительно интересной беседы между Рэймондом Курцвейлом и Зои Корбин (журналистом the Guardian).
Почему вы написали эту книгу?
Книга “Сингулярность близка” говорила о будущем, но это было 20 лет назад, когда люди не знали, что такое ИИ. Мне было ясно, что произойдёт, но это было не очевидно для всех. Теперь ИИ доминирует в обсуждениях. Пришло время снова взглянуть на прогресс, которого мы достигли — большие языковые модели (LLM) довольно приятны в использовании — и на предстоящие прорывы.
Ваши прогнозы на 2029 и 2045 годы не изменились...
Я остаюсь последовательным. Так что 2029 год — и для интеллекта на уровне человека, и для искусственного общего интеллекта (AGI) — что немного отличается. Интеллект на уровне человека обычно означает ИИ, который достиг уровня самых квалифицированных людей в определённой области, и к 2029 году это будет достигнуто в большинстве аспектов. (Могут быть несколько лет переходного периода после 2029 года, когда ИИ ещё не превзойдёт лучших людей в нескольких ключевых навыках, таких как написание сценариев, получающих Оскар, или создание глубоких новых философских идей, но это произойдёт.) AGI означает ИИ, который может делать всё, что может сделать любой человек, но на более высоком уровне. AGI звучит сложнее, но оно придёт в то же время. И моя пятилетняя оценка на самом деле консервативна: Илон Маск недавно сказал, что это произойдёт через два года.
Почему мы должны верить вашим датам?
Я действительно единственный, кто предсказал огромный интерес к ИИ, который мы видим сегодня. В 1999 году люди думали, что это займёт век или более. Я сказал 30 лет, и вот что у нас есть. Наиболее важным фактором является экспоненциальный рост объёма вычислительной мощности за цену в постоянных долларах. Мы удваиваем соотношение цена-эффективность каждые 15 месяцев. LLM начали работать только два года назад благодаря увеличению вычислительных возможностей.
Чего не хватает сейчас, чтобы ИИ достиг того уровня, который вы предсказываете на 2029 год?
Во-первых, больше вычислительной мощности — и она уже приходит. Это позволит улучшить контекстуальную память, здравый смысл и социальное взаимодействие, которые остаются областями с недостатками. Затем нам нужны лучшие алгоритмы и больше данных, чтобы ответить на большее количество вопросов. Галлюцинации LLM станут намного меньшей проблемой, несомненно, к 2029 году — они уже происходят гораздо реже, чем два года назад. Проблема возникает, потому что у них нет ответа, и они не знают этого. Они ищут лучшее, что может быть неправильно или неуместно. По мере того, как ИИ становится умнее, он сможет более точно понимать свои знания и точно сообщать людям, когда он чего-то не знает.
Что такое Сингулярность?
Сегодня у нас есть один размер мозга, который мы не можем превзойти, чтобы стать умнее. Но облако становится умнее и растёт практически безгранично. Сингулярность, которая является метафорой, заимствованной из физики, произойдёт, когда мы объединим наш мозг с облаком. Мы станем комбинацией нашего естественного интеллекта и нашего кибернетического интеллекта, и всё это будет объединено в одно целое. Это станет возможным благодаря интерфейсам мозг-компьютер, которые в конечном итоге будут наноботами — роботами размером с молекулы, которые будут неинвазивно проникать в наш мозг через капилляры. Мы увеличим интеллект в миллион раз к 2045 году, и это углубит наше осознание и сознание.
Трудно представить, что это будет, и это не кажется привлекательным...
Подумайте об этом как о наличии телефона, но в вашем мозгу. Если вы зададите вопрос, ваш мозг сможет обратиться к облаку за ответом так же, как вы делаете это сейчас на телефоне — только это будет мгновенно, не будет никаких проблем с вводом или выводом, и вы не заметите, что это было сделано (ответ просто появится). Люди говорят: “Я этого не хочу”: они думали, что не хотят телефонов тоже!
Как насчёт экзистенциального риска продвинутых систем ИИ — что они могут получить непредвиденные возможности и серьёзно навредить человечеству?
У меня есть глава о рисках. Я участвовал в поиске наилучшего пути вперёд и помог разработать принципы ИИ Асиломар. Мы должны быть осведомлены о возможностях здесь и контролировать, что делает ИИ. Но просто быть против него не разумно: преимущества настолько значительны. Все крупные компании уделяют больше усилий тому, чтобы их системы были безопасными и соответствовали человеческим ценностям, чем созданию новых достижений, и это положительно.
Будут ли физические ограничения вычислительной мощности, которые затормозят развитие?
Те вычисления, которые у нас есть сегодня, в основном идеальны: они будут становиться лучше каждый год и продолжат в этом направлении. Существует много способов, которыми мы можем продолжать улучшать чипы. Мы только начали использовать третье измерение — создавать 3D-чипы —, и это будет продолжаться много лет. Я не вижу необходимости в квантовых вычислениях: мы никогда не смогли продемонстрировать их ценность.
Вы утверждаете, что тест Тьюринга, где ИИ может общаться текстом неотличимо от человека, будет пройден к 2029 году. Но чтобы пройти его, ИИ нужно будет “упрощаться”. Почему так?
Люди не так уж точны и они не знают много вещей! Вы можете задать LLM сегодня очень специфический вопрос по любой теории в любой области, и он ответит вам очень разумно. Но кто может так ответить? Если человек ответил бы так, вы бы знали, что это машина. Так что цель упрощения — имитировать человека. Некоторые люди сообщают, что GPT-4 может пройти тест Тьюринга. Я думаю, что нам потребуется ещё несколько лет, чтобы разрешить этот вопрос.
Не все смогут позволить себе технологии будущего, которые вы предсказываете. Вас беспокоит технологическое неравенство?
Быть богатым позволяет вам позволить себе эти технологии на раннем этапе, но также и на этапе, когда они работают не очень хорошо. Когда мобильные телефоны были новыми, они были очень дорогими и также плохо работали. У них был доступ к очень небольшой информации и они не связывались с облаком. Сейчас они очень доступны и чрезвычайно полезны. Около трёх четвертей людей в мире имеют один. Так будет и здесь: эта проблема исчезнет со временем.
Книга подробно рассматривает потенциал ИИ по уничтожению рабочих мест. Нам следует беспокоиться?
Да и нет. Определённые типы работ будут автоматизированы, и люди будут затронуты. Но новые возможности также создадут новые работы. Работа, такая как “инфлюенсер в социальных сетях”, не имела смысла даже 10 лет назад. Сегодня у нас больше рабочих мест, чем когда-либо, и средний личный доход в США за час работы в 10 раз выше, чем 100 лет назад, с учётом сегодняшних долларов. Всеобщий базовый доход (безвозмездная фиксированная государственная выплата денег людям на закрытые базовых потребностей: еду, жильё, медицину и т.д.) начнётся в 2030-х годах, что поможет смягчить ущерб от разрушения рабочих мест. На том этапе он будет недостаточен, но со временем станет адекватным.
Есть и другие тревожные способы, помимо потери рабочих мест, которые ИИ обещает изменить мир. Вы не много говорите об этом...
Нам действительно нужно решить определённые типы вопросов. У нас грядут выборы, и “дипфейк” видео вызывают беспокойство. Я думаю, что мы сможем разобраться, что является подделкой, но если это произойдёт прямо перед выборами, у нас не будет времени. Вопросы предвзятости, ИИ учится у людей, и люди имеют предвзятость. Мы добиваемся прогресса, но ещё не там, где хотим быть. Также есть вопросы о честном использовании данных ИИ, которые нужно решать в правовом процессе.
Чем вы занимаетесь в Google и проходила ли книга какую-либо предвыпускную проверку?
Я консультирую их по различным способам, которыми они могут улучшить свои продукты и продвигать свои технологии, включая LLM. Книга написана в личном порядке. Google рад, что я публикую эти вещи, и никакой проверки не было.
Многие люди будут скептически относиться к вашим прогнозам о физическом и цифровом бессмертии.
Всё развивается экспоненциально: не только вычислительная мощность, но и наше понимание биологии и наша способность работать на гораздо меньших масштабах. В начале 2030-х годов мы можем ожидать достижения скорости ускользания от старения, когда каждый год жизни, который мы теряем из-за старения, мы будем получать обратно от научного прогресса. И по мере продвижения дальше мы действительно будем получать больше лет. Это не является гарантией вечной жизни — всё ещё существуют несчастные случаи — но вероятность смерти не будет увеличиваться год от года. Способность восстанавливать ушедших людей в цифровом виде поднимет интересные социальные и правовые вопросы.
Каков ваш план по бессмертию?
Мой первый план — оставаться в живых, поэтому достичь скорости ускользания от старения. Я принимаю около 80 таблеток в день, чтобы помочь сохранить своё здоровье. Криогенное замораживание — это запасной вариант. Я также намерен создать репликант самого себя — посмертный ИИ-аватар, что, как я думаю, станет доступно всем в конце 2020-х годов. Я сделал что-то подобное с моим отцом, собрав всё, что он написал за свою жизнь, и это было немного похоже на разговор с ним. Мой репликант сможет опираться на большее количество материала и поэтому точнее представлять мою личность.
Что нам следует делать сейчас, чтобы наилучшим образом подготовиться к будущему?
Это не будет “мы против ИИ”: ИИ будет внутри нас самих. Это позволит нам создавать новые вещи, которые ранее были невозможны. Будущее будет довольно фантастическим.