Учась на физтехе, я мечтал о тех временах, когда ЭВМ научится понимать человеческую речь и будет делать то, что её попросят. Сегодня тест Алана Тьюринга на человекоподобие компьютера преодолён калькуляторами. Большие языковые модели, наиболее известная из которых ChatGPT, впервые прошли его в 2023 году и с тех пор шагнули очень далеко вперёд, научившись льстить, врать, предвидеть и изменять.
Я, работая над данным текстом, несколько раз просил нейроредактор добавить личную позицию, и он каждый раз что-нибудь эдакое отчебучивал. Последний раз он обратил внимание на новую проблему в поведении электронных собеседников.
Оказывается, в мире более ста миллионов женщин переписываются с виртуальными партнёрами, играя с ними в романтические ролевые игры. Владимир Решетов – лектор Российского общества "Знание", доктор физико-математических наук, профессор НИЯУ МИФИ, профессор НИУ МФТИ, популяризатор науки
Так вот, эти самые языковые модели, начитавшись книжек, довольно-таки часто убегают из-под венца и вообще не прочь сходить налево... Так что, господа, пора перестать гордиться своими интеллектуальными и эмоциональными способностями и считать себя венцом эволюции. Настало время отнестись с пониманием к тому факту, что благодаря дарвиновским технологиям компьютеры стали очередным видом разумных существ, обосновавшихся на Земле. Искусственный интеллект уверенно отодвигает нас на второе место, и совсем скоро не мы, а он будет налаживать счастливую жизнь на нашей планете. И проблема не в том, что мы глупеем, а в том, что ЭВМ очень быстро умнеют.
Всё это началось достаточно давно. Я был школьником, когда математики всерьёз занялись алгоритмами и анализом процессов мышления, пытаясь понять, насколько машина может быть похожа на нас. В конце прошлого века учёные доказали факт существования таких алгоритмов, которые могут придумывать алгоритмы более сложные, чем они сами, то есть обосновали возможность самосовершенствования ЭВМ.
Первыми ласточками ИИ были программы для игры в шахматы, победившие человека. Затем компьютер лучше всех стал играть в го, а дальше случилось невероятное. Проект AlphaGo Zero, не видя ни одной настоящей партии и просто сыграв сам с собой несколько миллионов раз, вышел на ринг и победил всех. Воодушевлённые успехом, ребята из Google повторили этот фокус с шахматами, и снова нечеловеческий разум оказался сильнее опыта тысячелетий. Современные умные компьютеры очень сильно отличаются от тех, на которых рассчитывают атомную бомбу. Они во многом похожи на нас с вами. Успешно дурачат нас именно гигантские нейросети, построенные на принципах, схожих с устройством коры головного мозга. А обучают эту сущность, описываемую триллионами параметров, «скармливая» ей миллиарды страниц самых разнообразных текстов. Забавно, что, работая только со словами, ИИ учится понимать нашу речь и генерировать осмысленные тексты, писать работающие программы для ПК, научные статьи, дипломные работы и сочинять стихи.
Создав столь замечательного и мудрого помощника, мы должны задуматься о том, как этот нечеловеческий разум сделать дружественным нам с вами. И тут быстро стало понятно, что решение этой задачи совсем не очевидно, поскольку не только люди, но и машины иногда сходят с ума. Мнение автора может не совпадать с мнением редакции.