В "Атоме" выяснили, как нейросети и коровы погубят нашу цивилизацию

Вопросы о будущем обсудили в рамках баттла "Будущее: можно или нельзя приготовиться?" в музее "Атом". Хедлайнерами спора стали представитель научного сообщества Алексей Семихатов и литературно-фантастического – Сергей Лукьяненко. Metro побывало на баттле и узнало, как может наврать нейросеть и что станет причиной уничтожения человечества
В "Атоме" выяснили, как нейросети и коровы погубят нашу цивилизацию
пресс-служба музея "Атом".
Алексей Семихатов, Александр Пушной (был модератором баттла), Сергей Лукьяненко.

Будет ли катастрофа?

— Да не ждёт нас никакая катастрофа! — вскрикивает Алексей Семихатов. — Будущего вообще в каком-то смысле нет! Это психологическое состояние. Вот мы ждём, что сейчас наступит будущее, а это состояние, близкое к тревожному. Надо жить текущим моментом, и всегда есть какие-то проблемы. Ну, жизнь из этого состоит. 

Сергей Лукьяненко убеждён в обратном.

ЦИТАТА
Информации всегда было до фига. И в ней процент стоящего и не стоящего всегда был примерно такой же, как и сейчас. Мы, обращаясь к прошлому, видим литературные произведения, которые оказались достойны, но сколько же писалось ерунды! Задача отделять мусор от не мусора как была, так и осталась. И то, что агенты (под агентами подразумеваются нейросети. – Прим. ред.) помогают мне это делать, – это хорошо.
— Алексей Семихатов, доктор физико-математических наук

— Я полагаю, что нас ждут катастрофы, разумеется, и кризисы, но пугаться этого, конечно, не надо, — мягко говорит писатель. — Это нормальное состояние человечества. 

Мы подходим к самой катастрофической ловушке, которую нам может преподнести наука, — это возможность существовать беззаботно, безмятежно, сыто, получая любые доступные удовольствия, не затрачивая при этом каких-либо усилий. Человек вполне может сам по себе замечательно выродиться, деградировать и превратиться из человека разумного в существо, которое будет существовать только милостью нейросети. Как разумный вид мы прекратим существование. 

Люди могут остановить глобальное потепление?

— Да, изменения климата происходят, последствия этого чаще неприятны. Мы можем к этому готовиться, начинать воздействовать на климат в планетарном масштабе. Изменения климата, происходящие сейчас, — это большая проблема, но она решаема при условии, что не победит истерика. Если оставить истерику и начать готовиться, то никакой катастрофы нас не ждёт, — утверждает Семихатов.

Лукьяненко убеждён, что мы не можем повлиять на законы природы: 

— Изменения климата — вполне нормальный процесс. Мы живём на планете с динамичным климатом. Наш вклад в эти изменения незаметен. Не надо слишком много мнить о себе: "Боже мой, это мы тут накоптили, это у нас коровы напукали!"

Алексей Семихатов, Александр Пушной (был модератором баттла), Сергей Лукьяненко.
пресс-служба музея "Атом".
Алексей Семихатов, Александр Пушной (был модератором баттла), Сергей Лукьяненко.

ИИ — спасение или зло?

— Я считаю, что это большая опасность. Во-первых, все мы понимаем, что Интернет создан, чтобы постить туда мемасики с котиками и фоточки. Раньше знания доставались труднее. Сейчас же человек, который хочет прочитать что-то серьёзное и научное, потонет в информации. Ценность знаний стала ниже. Люди, пользуясь вот этим кладезем, немножко мощь своего интеллекта снижают, — объясняет фантаст. 

Семихатов призывает не обвинять ИИ в глупости людей.

ЦИТАТА
Нейронка позволяет сделать поиск быстрее. Но мне пока ещё хватает запаса знаний, чтобы понять, что она начинает мне тупо врать. Я спрашиваю у неё про естественный спутник Венеры. И жду, что она скажет мне: «Ты чё, ты о чём, друг, нет естественного спутника». Но мне нейросеть начинает рассказывать, что спутник есть, диаметром 800 километров, называется он Люцифер!.. И если бы я ничего не знал в астрономии, я мог бы это понять вполне серьёзно!
— Сергей Лукьяненко, писатель-фантаст

— Информации стало больше, и доступ к ней есть, но это не значит, что кто-то из нас в состоянии её всю пересмотреть и перечитать. Это невозможно уже давно. Почему тогда надо жаловаться на агентов, которые помогают нам эту информацию собирать? Это хорошо. А то, что я всё ещё должен думать, — это само собой разумеющееся. Есть элемент естественного отбора. Люди не равны. Одни лучше соображают, что верно и чему верить, другие — хуже, но это нормально, — говорит учёный.

Алексей Семихатов
Происхождение: родился в Москве в 1959 году. Окончил физический факультет МГУ. В 1986 году защитил кандидатскую диссертацию, в 1994 году – докторскую. Сфера научных интересов – математическая физика. В 2022 году стал лауреатом премии РАН в номинации «Лучшая научно-популярная книга о жизни учёных и логике развития науки». В 2023 году в рамках 36-й Московской международной книжной ярмарки стал победителем в номинации Non-fiction национальной премии «Книга года – 2023». Библиография: Книга «Всё, что движется. Прогулки по беспокойной Вселенной» вышла в 2022 году.
Сергей Лукьяненко
Происхождение: Родился в городе Каратау, Жамбылская область Казахстана. Окончил Алма-Атинский государственный медицинский институт по специальности врач-психиатр. Литературное творчество начал примерно в 1986 году. В 1996 году переехал в Москву. В 1998 году вышел знаменитый роман «Ночной Дозор», получивший впоследствии продолжение и экранизацию. Библиография: Самыми известными работами являются романы из серии «Дозоры»: «Ночной Дозор» и «Дневной Дозор», работы из серии «Диптаун»: «Лабиринт отражений» и «Фальшивые зеркала», а также «Спектр» и «Черновик».