От научных исследований до сценариев Айзека Азимова, искусственный интеллект меняет наше восприятие настоящего и представление о будущем.

«Жизнь и времена компании Multivac» «Жизнь и времена Multivac» — это короткий рассказ, написанный… Айзек Азимов выпущен 5 января 1975 года New York Times MagazineПо словам автора, это был первый научно-фантастический рассказ, заказанный и опубликованный журналом NYT Magazine. В Италии он был опубликован 18 декабря 1977 года в журнале Urania издательства Mondadori Editore, выпуск 738, во втором номере юбилейной антологии. Писатель тогда был в интересном возрасте 13 лет: его мозг все еще обладал пластичностью детства, пронизанной бурными волнами предпубертатного периода.

Сюжет хорошо продуман и позволяет глубоко погрузиться в мир такого мозга: постапокалиптическое человечество, сократившееся до 5 миллионов человек, рассеянных по планете Земля, суперкомпьютер, Multivac, которая контролирует всё, управляет каждым аспектом человеческой жизни и держит людей в удушающей цифровой вате.

Стремление к свободе, к обретению независимости, к приданию смысла жизни приводит Совет Людей к виртуальному заседанию, которое сегодня мы бы назвали «созывом», чтобы судить главного героя, виновного в даче показаний против другого человека, который напрасно повредил один из способов доступа к Multivac.

Но когда вот-вот будет вынесен приговор о полной изоляции от всех остальных людей на планете, происходит неожиданный поворот в стиле Азимова: главный герой, девяностолетний, но всё ещё молодой Рональд Баскт, чья склонность к математическим играм постепенно становилась всё более бесполезной для его бывших друзей, раскрывает, что он топологически рассчитал существование и местоположение единственного узла в огромной и сложной сети Multivac способный однозначно вызвать короткое замыкание.

И он делает это на глазах у своих изумлённых обвинителей: он выключает звук. Multivac, который уже никогда не сможет быть активирован. Затем, столкнувшись с молчаливым недоумением окружающих, он задает вопрос, который является сутью всей истории.

«Вы говорили о свободе, — резко сказал Баскт. — Теперь она у вас есть!» Затем, неуверенным тоном, он добавил: «Разве не этого вы хотели?»

Предсказания научной фантастики, как точные, так и неверные.

Любой, кто, как и я, является «старым» читателем научной фантастики, всегда поражается способностям «доброго доктора», как часто называют тех или иных персонажей. Айзек Азимов, чтобы предвидеть проблемы, которые в последние годы стали все более актуальными, за полвека вперед.

Тот факт, что автор не предвидел существования интернета и персональных цифровых устройств, нисколько не меняет эффективности рассказа; сложность формирующейся сети также играет важную роль. Multivac Это прекрасно иллюстрирует сегодняшнюю чрезвычайно сложную сеть, в плену которой мы, в большей или меньшей степени, находимся в обратной зависимости от нашего незнания того, как эта сеть функционирует.

Полезные роботы, характерные для предвиденного тогда будущего, стали бесчисленными. устройство То, чем мы сегодня располагаем, начиная от почти устаревших смартфонов и заканчивая все более компактными и зачастую даже немного навязчивыми носимыми устройствами. И тревога по поводу безопасности, чрезмерное рвение Multivac Разве забота о безопасности человечества не напоминает раздражающую, зачастую рабскую, озабоченность современных магистров права? И всё это происходит на фоне удушающего контроля, который заметно напоминает всё более персонализированную рекламу, порой в поистине тревожной форме, как я недавно убедился. Не говоря уже о нашем стремлении к свободе, которое тут же перерастает в панику, когда мы её обретаем.

Но научная фантастика — это не тот литературный жанр, который стремится предсказывать будущее. В действительности, это идеальный наследник сказки в том виде, в каком её принято понимать. Дж. Р. Р. Толкиена в своем эссе с тем же названием в книге «Дерево и лист»благодаря своей способности анализировать реальность с помощью самого мощного инструмента, которым мы обладаем: воображения.

Научные открытия и роль воображения

Наука и научная фантастика часто рассматриваются как дихотомия:

«Это наука, а не научная фантастика».

Так говорилось в рекламе, вышедшей несколько лет назад. Однако, поступая так, мы забываем происхождение термина «научная фантастика»: фантастическая наука, или, еще лучше, спекулятивная наука.

И мы забываем, что даже наука, несмотря на свою характерную методическую строгость, основана на нашей способности к воображению. Альберт ЭйнштейнОтец теории относительности часто связывал научную работу с интуицией, воображением и внезапной сменой перспективы. Эти элементы лежат в основе многих величайших научных открытий в истории.

Хотя наука, безусловно, обязана сначала преобразовывать интуитивные представления в проверяемые или доказуемые гипотезы, а затем в более или менее связные теории, проверяемые экспериментально, научная фантастика обладает способностью продвигать спекуляции гораздо дальше. И не случайно многие исследователи, например, в Массачусетском технологическом институте, будучи профессорами, Бруно КоппиМы с ним в течение нескольких лет сотрудничали в области коммуникаций, связанных с его проектом Ignitor по термоядерному синтезу, — страстные читатели, но часто также и писатели-фантасты.

Прекрасный пример этому есть и в Италии, хотя и не единственный: Марко КазолиноФизик, руководитель исследовательских проектов в секции INFN Римского университета Тор Вергата, профессор кафедры физики Римского университета Тор Вергата, выдающийся популяризатор науки и столь же выдающийся писатель-фантаст.

Реальность, фантазия и их различие

Те, кто мало знает и мало читал хорошей научной фантастики, иногда считают её второстепенным жанром, предназначенным для занудных подростков, которые «убегают от реальности». Интересно отметить, что те же самые люди ТолкиенТот, кого многие считают основателем современной фэнтези, но кого я считаю «просто» одним из величайших эпических писателей двадцатого века, отверг очень похожее возражение относительно мифологии.

В вышеупомянутом эссе «О сказках»Что касается искусственной ассоциации между сказками и детьми, а также смешения реальности и воображения, он заявляет:

«У меня не было особого детского „желания верить“. Я хотел знать. Вера зависела от того, как мне преподносили эти истории — старшие люди, авторы, тон и качество повествования. Но я не помню, чтобы когда-либо удовольствие, которое доставляла мне история, зависело от того, верил ли я, что подобные события могут происходить или происходили в „реальной жизни“».

Ничто так не раздражает поклонника научной фантастики, как ощущение принадлежности, например, к тем, кто бездумно верит в существование НЛО как инопланетных космических кораблей. В действительности, значительная часть тех, кто ценит научную фантастику, также являются страстными любителями науки. Неслучайно в КитайВ стране с самым быстрым в мире темпом научно-технического развития правительство должно всячески поощрять письменность и чтение, поскольку это способно на многое.

«Раскрывая умы молодежи».

Текущие споры против ИИ

Возвращаясь к главной теме этой редакционной статьи, следует отметить значительную и вполне обоснованную обеспокоенность по поводу потенциальных негативных последствий чрезмерного использования современного генеративного ИИ: в творческой и художественной сферах, в бизнесе, в системах массового наблюдения и в производстве оружия. Эти темы неразрывно связаны: проблемы существуют и столь же значительны, как и открывающиеся возможности.

Чтобы лучше понять как проблемы, так и возможности, давайте сделаем шаг назад. Когда мы говорим об искусственном интеллекте, мы на самом деле говорим о ряде довольно разнообразных возможностей, объединенных общим фактором: ИИ способен «программировать себя», имитируя определенные функции мозга — хотя мы почти уверены, что интеллект животных работает не совсем так. Сегодня наиболее обсуждаемыми ИИ являются LLMБольшие языковые модели: это расширенные языковые модели, также называемые генеративным искусственным интеллектом, поскольку они способны генерировать тексты, изображения, аудио, видео и музыку в соответствии с нашими инструкциями.

LLM математически имитирует, на основе статистических функций, функционирование обработки человеческого языка, что, по сути, является одной из главных характеристик, отличающих наш вид от других. Она не требует понимания истинного значения терминов; она работает примерно как «китайская комната» в Джон Сирло чем мы уже говорили в эту статьюНо это нисколько не уменьшает их интереса.

Почему произошёл взрывной рост искусственного интеллекта

Когда я показываю фильм на своих занятиях «Право на счет» («Скрытые фигуры»), когда один из главных героев объясняет, что компьютер IBM 7090, приобретенный НАСА в 1961 году для расчета траекторий ракет, вычисляет

«до 24 000 операций в секунду»,

Я остановлю воспроизведение на несколько минут и покажу эту простую таблицу:

• 1959: IBM 7090 – 24 килофлопса, или 24 000 операций с плавающей запятой в секунду.
• 2018: iPhone XS Max – 410 гигафлопс, или 410 миллиардов флопс
• 2023: iPhone 15 – 1,8 терафлопс, или 27 000 миллиардов флопс
• 2024: iPhone 16 Pro – 2,4 терафлопс, или 27 000 миллиардов флопс
• 2024: Яблоко M3 – 4 терафлопс, или 27 000 миллиардов флопс
• 2025: Яблоко М4 Ультра – 27 терафлопс, или 27 000 миллиардов флопс

Далее следует следующее:

• 27 000 миллиардов флопов / 24 000 = 1 125 000 000, или в 17 миллиона раз быстрее
• 27 000 миллиардов флопов / 24 000 = 1 125 000 000, или в 75 миллиона раз быстрее
• 27 000 миллиардов флопов / 24 000 = 1 125 000 000, или в 100 миллиона раз быстрее
• 27 000 миллиардов флопов / 24 000 = 1 125 000 000, или в 166 миллиона раз быстрее
• 27 000 миллиардов флопов / 24 000 = 1 125 000 000, или в 1.125 миллиона раз быстрее

Затем я объясняю изумлённым студентам, по крайней мере тем, кто интересуется этим вопросом, что современные суперкомпьютеры достигли и превысили отметку в один миллиард миллиардов операций в секунду, то есть пороговое значение. ExaScaleи что если бы у нас были космические корабли, пропорционально более быстрые, чем те, что были в 60-х годах, и если бы не существовало физического предела скорости света в пустом пространстве, мы бы путешествовали не между звездами, а между галактиками.

Действительно, мы достигли таких скоростей вычислений, которые еще несколько лет назад казались невозможными. И это один из факторов, позволивших LLM-системам достичь нынешней эффективности.

Значит, всё сводится к грубой силе?

Точно нет.

Научные исследования в области искусственного интеллекта ведутся уже давно, и именно здесь ChatGPT оказывается очень полезным:

«Исследования в области искусственного интеллекта достигли примерно...» 70 лет истории.

Термин "искусственный интеллект" Этот термин был придуман в 1956 во время Дартмутская мастерскаяконференция, организованная Джон Маккарти, Марвин Мински, Натаниэль Рочестер и Клод ШеннонОднако теоретические основы искусственного интеллекта восходят к периоду, предшествующему этой дате:

• 40-е и 50-е годы: первые исследования по искусственные нейронысовместно с Маккалоком и Питтсом в 1943 году, а также идея мыслящих машин с Алан Тьюринг и его тест Тьюринга в 1950 году.
• 60-е и 70-е годыразработка первых экспертных систем и символического интеллекта
• 80-е и 90-е годы: нейронная сеть возвращает результат благодаря алгоритму обратное распространение
• 2000-е годы и сегоднярасширение глубокое обучениеблагодаря современным вычислительным мощностям появляются все более сложные модели.

Таким образом, можно сказать, что исследования в области искусственного интеллекта имеют глубокие корни и развивались на протяжении примерно... семь десятилетий».

В частности, в последние годы наблюдается развитие и распространение архитектуры с открытым исходным кодом. Трансформатор Google в 2017 году, доступность огромных объемов текста благодаря Интернету, развитие методов обучения благодаря алгоритмам обратное распространениеОптимизация моделей и значительные инвестиции в эту область привели к нынешней ситуации.

Чтобы углубиться в эти темы доступным, но при этом подробным способом, я настоятельно рекомендую бесплатный курс. «Взрыв искусственного интеллекта», проводимая в онлайн-формате профессорами Университета Урбино.

Но насколько же интеллектуальны эти ИИ на самом деле?

Прежде всего, давайте забудем, хотя бы на несколько лет, о HAL из «2001: Космическая одиссея», Скайнете из «Терминатора», машинах из «Матрицы» или различных версиях... MultivacДля поклонника научной фантастики это звучит немного грустно, но на данный момент мы далеки от той «мыслящей машины», какой её представляли до сих пор, что, возможно, многих успокаивает.

Я бы добавил, что научная фантастика имеет ряд достоинств, но и некоторые недостатки.

К достоинствам этого подхода, безусловно, относится предвосхищение многих этических проблем, с которыми мы уже сталкиваемся сегодня, что в некотором смысле подготовило нас к тому, что ожидает нас в ближайшем и недалеком будущем. Он также приучил нас к мысли, что рано или поздно нам придется иметь дело с разумными существами, «отличными» от нашего собственного, что, собственно, и происходит.

Давайте перейдем к тому, кто виноват.

Чрезмерное упрощение, за некоторыми исключениями, многих научно-фантастических рассказов, касающихся...искусственный интеллект Это приучило нас к неверному уравнению интеллект = сознание.

Мы давно знаем, что это не так: давайте вспомним многие модели поведения животных, начиная с насекомых, образующих колонии, такие как муравейники и термитники, которые обладают замечательными способностями к... решение проблемНикто не уверен, что термитник может осознавать себя.

Согласно последним неврологическим исследованиям, корреляция между бдительностью и осознанностью отсутствует.

Наконец, научная фантастика породила широко распространенную паранойю по поводу ИИ, который, как правило, как только «просыпается», более или менее осознанно решает контролировать или уничтожать нас. Именно этого и боится большинство людей.

Но сегодняшние проблемы совершенно иные, и дело не только в некоторых зачастую несколько преувеличенных заявлениях прессы или генеральных директоров, чрезмерно заинтересованных в привлечении финансирования.

Между предвзятостью и галлюцинациями, математикой и неожиданностями

Возвращаясь к концепции расширенной языковой модели (LLM), которая в настоящее время является типом ИИ, наиболее захватывающим воображение общественности, объективно следует отметить, что именно в эту область, наряду с другими так называемыми, вкладываются наибольшие экономические инвестиции. модели фундаментаили модели фундаментак которым относятся мультимодальные системы, способные генерировать как текст, так и изображения, аудио и видео, системы, специализирующиеся на изображениях, и системы с оптимизированным обучением, или обучение в несколько выстрелов.

Это первоначально привело к ряду инцидентов и недоразумений, таких как убеждение инженера Google в том, что он имеет дело с разумным существом, или модели, которые пришлось закрыть вскоре после публикации, потому что они «впитали» в себя худшие предубеждения, возникшие в результате взаимодействия с недобросовестными пользователями.

С момента выхода ChatGPT 3.5 в ноябре 2022 года тема ИИ стала «массовой» новостью, но прежде всего она спровоцировала гонку между крупными технологическими компаниями, за исключением Apple, которая, похоже, идет своим собственным путем, как никогда прежде, с миллиардными инвестициями и чередой более или менее разумных заявлений от своих генеральных директоров.

Возникновение способностей и галлюцинации, связанные с искусственным интеллектом

В физике существуют явления, называемые «фазовыми переходами». Простейший пример — вода, которая при температуре ниже определенного значения превращается в лед, а при температуре выше определенного значения — в пар.

Фазовые переходы важны и происходят даже в явлениях, которые не являются строго физическими. В случае с LLM-системами научная статья, опубликованная на arXiv.org в августе 2022 года, обсуждает возникающие явления: непредсказуемые возможности ИИ в одних и тех же системах в меньшем масштабе, которые внезапно появляются за пределами определенного уровня сложности. Фазовые переходы, действительно.

Сложность LLM измеряется тремя факторами: количеством параметров, объемом обработки и размером обучающего набора данных. Долгое время считалось, что увеличение сложности и вычислительной мощности приведет к фазовому переходу, подобному тому, что в физике называют «сингулярностью» — внезапному переходу от ИИ к АГИ (искусственному общему интеллекту), более мощному, чем человеческий разум, и способному к экспоненциальному росту за счет самосовершенствования и модификации. Но этого не произошло, и сегодня многие исследователи считают, что мы еще не на правильном пути к АГИ, поскольку существующие алгоритмы слишком ограничены.

Механическая апофения и архитектура современного ИИ

Апофения — термин, введенный немецким неврологом и психиатром. Клаус Конрад В 1958 году это была человеческая склонность воспринимать осмысленные связи между несвязанными явлениями. Например, парейдолия — это форма апофении, которая заставляет нас узнавать лица или фигуры там, где их на самом деле не существует.

Таким образом, это когнитивное искажение, или форма искажения реальности, которая, однако, во многих случаях может оказаться полезной на этапе творчества, если её контролировать с помощью критического мышления. В противном случае она может привести к совершенно иррациональным и нереалистичным убеждениям.

Таким образом, в системе, имитирующей наш сложный язык, но лишенной какого-либо опыта взаимодействия с миром и эффективного понимания значения терминов, апофения превращается в основной функциональный дефект современных алгоритмов, который можно в некоторой степени контролировать и ограничивать, но никогда полностью не устранить: галлюцинация.

От апофении до эпистемии

И здесь мы подходим к важному моменту: сегодня существует неологизм, придуманный Уолтер КватрочиоккиПрофессор кафедры компьютерных наук Римского университета Сапиенца. «эпистемика»или

«Удобная иллюзия знания, создаваемая взаимодействием с генеративным искусственным интеллектом больших языковых моделей (LLM), где имитационная правдоподобность беглой речи и связность повествования заменяют когнитивную эффективность и надежность данных».

Согласно энциклопедии Треккани, это так.

Этот феномен основан на хорошо известной тенденции нашего мозга проецировать человеческие характеристики на сложные системы, такие как животные.

Термин эпистемический В тексте описывается, как связность, правдоподобность и беглость повествования современных генеративных ИИ приводят к тому, что значительная часть людей ошибочно принимает правдоподобные и хорошо структурированные ответы за правдивые и совершенно достоверные. Эпистемика приводит к когнитивной иллюзии, уже описанной так называемым «эффектом эха». Даннинг-Крюгергде менее компетентные люди переоценивают свою подготовку в определенных областях.

Таким образом, убедительное и, возможно, даже хорошо написанное, но всегда популярное, а следовательно, крайне упрощенное объяснение концептуальных основ квантовой механики, представленное на ChatGPT, позволяет нам предположить, что мы способны обсуждать его на равных с исследователем из Национального института ядерной физики.

Традиционные критерии проверки достоверности источников, уже подорванные недостатком научных знаний у общественности, такие как экспертная оценка, рецензирование и академические учреждения, теряют свой авторитет по сравнению с широко распространенными статистическими знаниями, по крайней мере, в глазах неспециалистов.

Из вымышленных проблем ИИ

В свете всего, что мы рассмотрели в этой статье, мы можем с уверенностью заключить, что искусственный общий интеллект, способный к автономному рассуждению и самосовершенствованию, и искусственное сознание пока остаются довольно отдаленными целями. Что касается первого, то мы сталкиваемся с присущими современным машинам ограничениями: вероятностный подход, галлюцинации, непонимание смысла и недостаток опыта.

Что касается второго пункта, у нас пока нет общепринятой научной теории сознания, и поэтому мы не имеем точного представления о принципах, согласно которым искусственный объект, каким бы сложным он ни был, мог бы его имитировать. По крайней мере, таково мнение автора, основанное на многолетнем интересе и исследованиях, в том числе по художественным соображениям, а также в свете многочисленных дискуссий с экспертами в этой области.

Кстати, всем, кто интересуется историей, на основе которой был написан роман, будет интересно. «Проект Монтекристо»Рассказ, в котором обсуждается искусственное сознание, появившееся в неожиданные времена — в 1993 году, а роман — в 2010-2024 годах, — может служить интересным примером оригинального взгляда на эту тему. Рассказ доступен онлайн на итальянском и английском языках. Baby.

…к реальным проблемам ИИ

Эта статья ни в коем случае не призвана недооценивать силу существующих систем или их способность влиять на нашу жизнь. Но реальные проблемы остаются хорошо скрытыми, под масками маркетинга и недоразумений, возникающих из-за упрощения.

Сегодня у нас есть системы, способные находить корреляции и связи, которые иначе могли бы ускользнуть от нашего анализа; чрезвычайно мощные и неутомимые системы, которые можно использовать как в благородных, так и в менее благородных целях. И какое же самое древнее и радикальное искушение могут пробудить в некоторых из нас эти системы? Контроль, власть.

Искусственный интеллект все чаще используется в военных действиях не только для оснащения оружия — что является очень серьезным вопросом — возможностями автономного принятия решений в случае потери связи, но прежде всего для контроля над полем боя. Сочетание ИИ, спутников и беспилотников становится новым рубежом, делая многие военные тактики, использовавшиеся еще несколько лет назад, устаревшими.

Системы генеративного искусственного интеллекта все чаще способны создавать правдоподобные сообщения, которые крайне сложно отличить от новостей и данных, основанных на авторитетных источниках. Более того, они вызывают гораздо большее привыкание, чем алгоритмы социальных сетей, которые в настоящее время ограничиваются законодательством на десятилетие позже, в то время как возможности систем LLM растут слишком быстро, по мнению самих исследователей.

Между тем, значительное число подростков общаются через ChatGPT и подобные системы чаще, чем с друзьями или взрослыми.

Текущее и будущее использование: кто будет нести ответственность?

В Соединенных Штатах набирает обороты движение, придерживающееся мнения, что с помощью ИИ можно без особых угрызений совести влиять на весь Запад, направлять и руководить им. Этот проект открыто заявлен в последней книге, написанной генеральным директором одной из компаний. Palantir, Александр Карп, «Технологическая республика: жёсткая сила, мягкие убеждения и будущее Запада», на итальянском языке «Технологическая республика: жесткая сила, мягкая вера и будущее Запада».

Palantir Это компания, название которой вдохновлено произведениями Толкина, но полностью искажает его истинный смысл: «камни прозрения» в конце Третьей эпохи в Средиземье фактически стали не способом раскрытия истины, а системой контроля сознания их пользователей, созданной Темным Властелином Сауроном.

Кроме того, модели, специализирующиеся на кодирование вибрации как Клод di АнтропныйУстройства, способные создавать и анализировать компьютерный код на любом известном языке программирования, достигают уровней эффективности, которые вызывают серьезную обеспокоенность. По-видимому, последняя модель Клода, называемая MythosОн смог быстро обнаружить серьезные уязвимости в операционных системах, таких как Linux, на которых работает большинство серверов, обеспечивающих работу Интернета, крупных системах в банках, аэропортах и ​​других важных структурах, а также в браузерах, таких как Firefox. Уязвимости, которые никогда ранее не были обнаружены даже хакерским сообществом.

На данный момент Claude Mythos был выпущен лишь для нескольких крупных компаний, чтобы дать им время на разработку соответствующих исправлений и устранение проблем кибербезопасности. Но как только он попадет в руки киберпреступных организаций, можем ли мы быть уверены, что все важные системы — банки, больницы, министерства и другие — смогут обновиться вовремя?

Именно эти темы мы рассмотрим в следующих статьях, и они должны заставить всех нас и наши правительства задуматься.

Apertus — швейцарский ИИ с открытым исходным кодом, бросающий вызов мировым гигантам

Робот-янки Атлас — идеальный помощник плотника

Майкл фон Лихтенштейн о геополитике и искусственном интеллекте

Гуманоидные роботы и физический искусственный интеллект: как меняется завод BMW Group

Вот три идеи, которые могут вас заинтересовать

LaMDA, Google и достоинства карманного учителя
От мечты к реальности: обзоры научной фантастики
Искусственный интеллект и глобальная этика современности