Новости ИИ стал героем научной фантастики: книга отвечает – станем ли мы рабами технологий?

[NewsMaker]

Автор раскрывает тревожные подробности о сознании машин.

---

---

В новой книге « Для просмотра ссылки Войди или Зарегистрируйся » (Возвращаем себя в уравнение) опытного научного писателя Джордж Муссер затрагивает актуальный вопрос: станет ли искусственный интеллект служить человечеству или породит новый вид сознательных цифровых существ со своими собственными целями?

Такой вопрос волнует не только авторов научно-фантастических произведений, но и реальные научные круги, особенно на фоне недавних событий в OpenAI , где генеральный директор Сэм Альтман, выступающий за быстрое развитие ИИ, Для просмотра ссылки Войди или Зарегистрируйся над членами совета директоров компании, призывающими к осторожности с технологией.

Отметим, что недавно команда OpenAI Для просмотра ссылки Войди или Зарегистрируйся нового алгоритма ИИ, названном «Q*» («Q-Star»), который представляет собой потенциальный прорыв в создании искусственного интеллекта общего назначения (Artificial General Intelligence, AGI ), способного превзойти человеческий интеллект.

Муссер, опираясь на интервью с исследователями ИИ, нейрофизиологами, квантовыми физиками и философами, рассматривает природу сознания и его возможное проявление в ИИ. Он приходит к выводу, что ИИ, точно воспроизводящий нейронные структуры, может обладать сознанием, сопоставимым с человеческим.

Однако Муссер уточняет, что неосознанные машины уже представляют значительную угрозу для человечества, включая уничтожение людей, и добавление сознания к ИИ не увеличит эту опасность. Муссер также выражает беспокойство по поводу потенциального неправильного обращения человечества с сознательными машинами, отмечая историческую склонность людей к жестокому обращению с сознательными существами.

В своей книге Муссер рассматривает две теории сознания:

• Для просмотра ссылки Войди или Зарегистрируйся Сознание возникает из внутренней связности сети и может быть измерено в математическом масштабе. Животные обладают уровнем сознания, который стоит ниже человеческого. Неживые объекты, такие как компьютеры, теоретически могут обладать сознанием, но их информационные сети должны быть структурированы с помощью контуров обратной связи, аналогичных биологическим нервным системам.
• Для просмотра ссылки Войди или Зарегистрируйся Сознание возникло как биологическая функция, направленная в первую очередь на то, чтобы помочь организмам предсказать, что произойдет в ближайшем будущем, и помочь им избежать угроз — например, предвидеть атаку хищника. Машины должны будут обладать прогнозирующими моделями окружающей среды, подробными тем, которые живые организмы разрабатывали на протяжении миллиардов лет.

Муссер сравнивает развитие ИИ с прогрессом в ядерном синтезе, отмечая, что будущее ИИ кажется уже не таким далеким. Он подчеркивает важность понимания сознания для оценки сознательности машин. Текущее поколение ИИ, такое как ChatGPT , по его мнению, не достигло уровня сознания, но будущие версии, возможно, будут сознательными.

Муссер также исследует связь между когнитивными теориями и квантовой физикой. Например, лауреат Нобелевской премии по физике Роджер Пенроуз Для просмотра ссылки Войди или Зарегистрируйся , что сознание — это квантовое явление, возникающий в результате активности микротрубочек внутри нейронов. Если это так, то истинное сознание невозможно создать с помощью классических компьютеров. В то же время, лучшее понимание сознания может способствовать разгадке тайн квантовой физики.

В заключение, Муссер выражает надежду на научный прорыв, который изменит понимание сознания на уровне теории относительности Эйнштейна. Писатель считает, что ИИ может сыграть ключевую роль в этом открытии, совместно с человеческим интеллектом.