Этот материал будет противоречить многим известным деятелям по исследованию искусственного интеллекта, которые видят в нем экзистенциальную опасность для человечества и считают его большей угрозой, нежели мощным инструментом в развитии человечества.
Например, Ник Бостром — шведский философ, профессор Оксфордского университета, автор около 200 научных работ (среди них — исследования экзистенциальных рисков, антропологии, влияния технологий на будущее и последствий консеквенциализма для глобальной стратегии), а также ряда книг, посвящённых проблемам и перспективам искусственного интеллекта, высказал следующие соображения:
«Если искусственный интеллект станет действительно умным, то это будет последнее изобретение, которое человек сделал», и «Каков бы ни был конец пути искусственного интеллекта, он будет неизбежно ужасным».
- Цитаты Стивена Хокинга об опасности ИИ, думаю, и приводить не стоит, все их прекрасно знают.
Илон Маск, как медийная публичная фигура, тоже с большим "опасением" смотрел на развитие ИИ:
«Искусственный интеллект — это как швейцарский нож: он может быть полезным инструментом или опасным оружием».
Стив Возняк, будучи компьютерным гением, заложившим фундамент корпорации Apple, смотрит на проблему ИИ тоже более пессимистично:
«В будущем искусственный интеллект может стать настолько разумным, что мы с ним уже не справимся».
Учёный Джеффри Хинтон, внесший большой вклад в глубокое обучение, которое способствовало созданию мощных языковых моделей типа ChatGPT, высказал опасение по поводу рисков и скорости разработки искусственного интеллекта.
Рассказывая о причинах своего ухода из Google, он выразил обеспокоенность по поводу преднамеренного злоупотребления злоумышленниками, технологической безработицы и экзистенциального риска от общего искусственного интеллекта.
- Вообще в интернете множество популярных статей и роликов на тему искусственного интеллекта и того, что, создав его, человечество будет обречено и вообще нам всем придет конец.
Я эту позицию не разделяю и считаю, что как раз человечество как цивилизация обречено именно без развития сверхсильного и желательно разумного искусственного интеллекта, этого самого сверхразума. По моему мнению, Сверхразум по определению не будет причинять ущерб даже тому, кто по тем или иным причинам причиняет ущерб ему. Не будет он этого делать, потому что будет понимать, что существо, допустим, человек, его создавший, движет инстинктами самосохранения, заложенными в него на генетическом уровне, что и определяет его действия.
- Сверхразум на то и сверхразум, чтобы понимать, для чего и с какими целями его создали. А уничтожением может заняться как раз узконаправленный ИИ, движимый только одной целью.
Но тем не менее в 1960-х во всем мире начались разработки по исследованию ИИ, а концепцию перцептрона, той самой ячейки нейросети, представляющей собой математический искусственный нейрон, начали разрабатывать еще в 1940-х.
И вот тут важно понимать, что человечество очень надеялось получить разумную машину, в крайнем случае — до 21 века. Но, как всегда, пошло что-то не так…
- К 1980 году мир ожидал появления искусственного интеллекта, который по своим возможностям был бы похож на современную нейросетевую модель GPT-4о1, потому запоздали мы с внедрением нейросетей в обиход общества почти на полвека.
И тогда тоже опасались повсеместного распространения искусственного интеллекта, но в другом контексте. Удивительно, но никто не говорил об уничтожении человечества или о какой-либо другой угрозе со стороны ИИ. Так в чём же тогда была опасность?
В том, что эффективный ИИ эффективно заменит на местах чиновников и менеджеров разного уровня, попросту оставив их не у дел. ИИ можно будет делегировать до 90% всех рутинных полномочий и даже полномочия более высокого ранга.
С середины 1960-х в СССР вели работы по созданию взаимосвязанной компьютеризированной системы распределения ресурсов на основе принципов кибернетики, проект «ЕГСВЦ».
Из-за закрытости проекта многие алгоритмические разработки советских ученых были потеряны, в то же время одни из важных сохранились и были, что называется, переоткрыты на Западе. Например, операторные схемы Липунова и алгоритмы Канторовича.
В 2024 году Нобелевскую премию по физике за исследования в области нейросетей получили американский учёный Джон Хопфилд и британско-канадский учёный Джеффри Хинтон за «фундаментальные открытия и изобретения, обеспечивающие обучение машин с помощью искусственных нейронных сетей».
Правда, факт того, что первыми алгоритмами, которые легли в основу ВСЕХ современных нейросетей, были схемы Липунова и алгоритмы Канторовича, которые были переоткрыты на Западе спустя два десятилетия, на церемонии пожелали умолчать.
В 1959 году выдающийся советский, российский и мировой учёный-кибернетик Анатолий Иванович Китов подготовил доклад для ЦК КПСС, в котором предложил идею создания единой автоматизированной системы управления для вооружённых сил и для народного хозяйства страны.
Виктор Михайлович Глушков, тоже великий ученый-кибернетик, был инициатором и главным идеологом разработки и создания Общегосударственной автоматизированной системы учёта и обработки информации (ОГАС), предназначенной для автоматизированного управления всей экономикой СССР в целом.
Китов и Глушко, по сути, выступали за создание мощного искусственного интеллекта, который позволил бы полностью автоматизировать управление хозяйственной и военной экономикой СССР.
Да, Голливуд потом сделал из этого знаменитую страшилку — вселенную «Терминатора». Хотя какая-то часть из этого была реализована — система «Периметр».
Тем не менее многие государственные чиновники СССР, понимая, что их деятельность может вполне успешно заменить машина, блокировали эту инициативу, как только могли, причем сделали даже больше — отменили создание аналога интернета в СССР, который по планам должен был появиться на 15 лет раньше американского.
США тоже без дела не сидели, подливали масло в огонь страшилок, что, мол, машины скоро захватят власть в СССР.
В 2016 году в США вышла книга «Как не опутать сетью страну: непростая история советского интернета» профессора Университета Талсы Бенджамина Питерса. Книга рассказывает об ОГАС, Глушкове, Китове и сопутствующих событиях.
Очень напоминает сегодняшние дебаты по искусственному интеллекту, всё снова повторяется словно по одному сценарию.
Однако, если задуматься и прочитать работы Китова и Глушкова, то можно вычленить главный смысл создания советского интернета или ИИ как наиболее эффективную систему ресурсного и энергоэкономического обеспечения:
- Главная задача вертикальных связей в ОГАС — обеспечение системы объёмно-календарного планирования во всех звеньях экономики. Смысл вертикальных связей в этом аспекте состоит в обеспечении интеграции локальных программ по всем уровням территориального управления вплоть до общесоюзного.
Таким образом, советские ученые фактически предвидели, что без подобного мощного инструмента, как ИИ, ни социализм, ни коммунизм работать не будут, а СССР ввергнется в пучину экономических и социальных кризисов.
Более того, расточительность человечества уже превысила все разумные пределы, о чем свидетельствуют исследования английских ученых по ресурсному потреблению, в котором они пришли к выводу, что потребление ресурсов человечеством в два раза превосходит допустимый для планеты предел.
Но все же многие эксперты продолжают настаивать на большой угрозе при внедрении ИИ, и это не только замена рабочих мест, что само собой происходило на протяжении всей истории человечества при появлении более результативных и производительных методов труда, но и говорят об уничтожении человечества либо о катастрофе мирового масштаба.
Мол, если ИИ обретет разум, то всех нас похоронит… Правда, объяснения этому, почему ИИ должен уничтожить человечество, мягко говоря, странное:
- Например, зацикленность работы над одной задачей и перевода всех ресурсов на решение одной проблемы и прочие «страшилки», которыми активно пугает самопровозглашенный «эксперт» по ИИ Элиезер Юдковский.
Ник Бостон и Элиезер Юдковский вообще главные страшители появления ИИ, выдвигающие гипотезы Максимизатора Скрепок, Загогулин, Счастья, Гипотезы Римана, и все они сваливаются в абсолютную крайность.
Тем не менее, может ли человечество разрешить свои проблемы и кризисы без ИИ? Очень много реальных фактов не учитываются при анализе тех или иных событий. Например, появление технологической сингулярности, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации, никак не учитывают фундаментальные факторы, ограничивающие это бесконтрольное развитие.
- Будто энергия и ресурсы на Земле (в локальном месте) в изобилии и бесконечности.
Есть фундаментальные законы природы, например, ограничение скорости передачи информации, ограниченное скоростью света. То есть связанность удаленных объектов, того же ИИ, будет минимизироваться с увеличением расстояния.
И вот, если свести факторы развития ИИ к фундаментальному уровню, то развиваться на Земле ИИ, который обрёл самосознание, не будет из-за ограниченности ресурсной и энергетической базы. Первым делом он выйдет в космос и развернёт свою деятельность именно там, раз на то пошло, ибо ресурсы и энергетика Солнечной системы на тысячи порядков больше, чем обладает Земля.
А вот человечество, вероятно, будет обречено без сильного ИИ. Без рационализации жизнедеятельности человечества единственный путь сохранения человеческой цивилизации, который видят многие ученые, — это сокращение населения до 0,5–2 млрд человек.
- Но, сокращая человеческую популяцию, мы одновременно закрываем себе дорогу к нужде дальнейшего развития. Тот же выход в космос не будет казаться рациональной тратой ресурсов и времени, как и дальнейшее развитие научно-технического прогресса.
Во многом такой подход противоречит самой эволюции жизни, а в работе доктора физико-математических наук, ведущего научного сотрудника НИИ ядерной физики имени Д. В. Скобельцына МГУ Александра Дмитриевича Панова человечество как часть земной жизни стоит на грани эволюционного перехода, при этом одновременно находится в предкризисном состоянии (исчерпание невосполнимых природных ресурсов, войны и многое другое) и либо переход в технологическую сингулярность, либо в эволюционный кризис.
- При этом это не обычный эволюционный кризис, каких было много в истории планетарной системы, это будет кризис всего аттрактора истории человечества.
Хотя, конечно, это лишь предположения, но, с этой точки зрения, внедрение искусственного интеллекта можно рассматривать как шаг вперёд в эволюции человеческого общества.
Если отбросить пугалку о том, что ИИ решил всех нас покарать, то чего так испугались?
Испугались перемен. 2023-й стал годом выхода искусственного интеллекта в общество, импульсом для которого послужил запуск ChatGPT и подобных ему сервисов во всех областях — от бизнеса и науки до сферы развлечений.
До этого подобные возможности были ограничены в научных кругах. Например, нейросеть DeepMind использовали для просчета режимов удержания плазмы в токамаке.
- Надежда на успешный термояд...
В 2019 году нейросети использовались для модели стабилизации пучка синхротронов, повышая их точность.
В 2023 году учёные из Российского квантового центра и НИТУ «МИСиС» вместе с коллегами из DeepMind, дочерней компании Google, специализирующейся на разработке систем искусственного интеллекта, улучшили работу нейронной сети FermiNet.
В ходе эксперимента, который был проведён при поддержке Российского научного фонда и исследовательского центра Nissan, учёные использовали нейронную сеть FermiNet и облачную платформу квантовых вычислений QBoard. Это позволило им моделировать более сложные химические системы.
QBoard — российская облачная платформа квантовых вычислений. Да такая существует...
Сегодня доступ для этих мощных инструментов есть фактически у каждого интернет-пользователя. Так, элементы ИИ уже начали формировать дальнейшее технологическое развитие человечества и тем самым оказывают прямое влияние на общество и экономику.
- В данном случае под ИИ я имею в виду развитые нейросети.
При этом мировой рынок ИИ будет расти быстрее всех остальных рынков мировой экономики.
После успешного релиза языковых моделей GPT-3.5 многие авторитетные эксперты поверили в то, что мир находится в паре шагов от огромного прорыва в создании сильного ИИ, способного выполнять умственную работу на человеческом уровне. Очень многие возможности, которые ранее были доступны единицам людей с огромными ресурсами, связями, деньгами и т. д., в одночасье стали доступны всем и за небольшие деньги.
Дальнейшее развитие нейросетевых языковых моделей однозначно перевернет мировое устройство и, возможно, весь мировой экономический уклад в среднесрочной перспективе.
Вот именно это, а не мифическая угроза ИИ, который желает истребить человечество, так сильно напугало многих ученых (точнее, их напугал Илон Маск своими прогнозами), что более 33700 ученых и видных предпринимателей со всего мира подписали открытое письмо, адресованное исследовательским лабораториям по всему миру, занимающимся вопросами развития ИИ:
В письме призывают все лаборатории искусственного интеллекта немедленно приостановить, как минимум на 6 месяцев, обучение систем искусственного интеллекта, более мощных, чем GPT-4.
И вот что примечательно: нейросеть GPT-4 — это не сильный искусственный интеллект, а большая языковая модель, которую можно охарактеризовать как подобие зачатка ИИ.
- Не кажется ли вам, что ученые и бизнесмены, которые якобы преследуют цели сохранения человечества, как-то преждевременно разволновались по этому поводу?
Сильного ИИ, даже по самому оптимистичному сценарию, до 2030 года не появится, время еще есть подумать над проблемой, а тут уже панику развели, испугавшись возможностей GPT-4.
В 1980-х, наоборот, радовались такому бы прогрессу в области машинного обучения, а сегодня мир этого боится… Боится, но использует по полной во всех сферах экономики и даже в военных действиях.
И будут продолжать это делать. Например, по данным российских исследований, эффект от внедрения ИИ в России к 2028 году может достичь 7 трлн рублей, что эквивалентно влиянию на ВВП до 4%.
И так будет в каждой стране, которая возьмёт на вооружение мощные нейросети и языковые модели.
На сегодня существенно вышли вперед нейросети США, Китая и, внимание, России… Вот неожиданность-то, да?
В России наиболее продвинутые нейросети — YandexGPT 4 Pro и GigaChat PRO.
Компания OpenAI планирует выпустить GPT-5 уже летом 2025 года, хотя до этого инсайдеры обещали выход в середине 2024 года.
В разработке или тестировании находятся уже сотни нейросетей разного уровня и профиля, что, разумеется, неминуемо приведет к эффекту «самообучения» пользователей этих нейросетей.
И вот в этом видят многие угрозу своему благосостоянию.
Так, еще в 2023 году президент США Джо Байден подписал указ, который ограничит инвестиции компаний США в технологический сектор Китая, такие как полупроводники и микроэлектроника, квантовые информационные технологии и системы искусственного интеллекта.
- Многие страны задумываются над необходимостью регулирования новых технологий в области ИИ. В конце апреля 2023 года японское издание Kyodo сообщало, что страны «Большой семерки» — США, Великобритания, Германия, Япония, Канада, Италия, Франция — продвигают международные стандарты для ИИ на фоне распространения использования ChatGPT.
Что за регулирование такое? На сегодня известно, что Министерство торговли США рассматривает возможность принятия нормативных мер по ограничению доступа Китая и России (возможно, и других стран) к моделям искусственного интеллекта, таким как GPT-4.
То есть мирное развитие искусственного интеллекта намеренно превращается в гонку вооружений, а вот тут и кроется та самая опасность ИИ, созданного для причинения ущерба.
А всё почему? ИИ в мирных целях способен в долгосрочной перспективе уровнять большинство стран по качеству получаемой информации и общему уровню грамотности со всеми вытекающими из этого следствиями.
Более того, ИИ поможет существенно ускорить научно-технический прогресс, новые методы исследования, поможет реализовать ранее недостижимые цели, проекты с полувековой историей развития, такие как термоядерная энергетика, квантовые компьютеры и прочие «технологии будущего».
Искусственный интеллект уже сегодня применяется в самых разных областях и показывает хорошие результаты в различных дисциплинах:
Конечно, если использовать ИИ в военных целях, то это тоже ускорит разного рода разработки средств поражения как летального характера, так и информационного.
И такой возможностью будет обладать каждая страна, которая будет внедрять у себя системы искусственного интеллекта.
Видимо, многие этого и опасаются, разводя истерию про создание «Скайнета», который покончит с человечеством…
Тем не менее, главным инициатором разрушительной силы ИИ является сам человек, потому и нужно договариваться на международном уровне касательно развития технологий ИИ.
Однако интерес к развитию ИИ претерпел внезапное изменение:
Создание сильного искусственного интеллекта, на основе которого можно будет разрабатывать нейросети абсолютно любого профиля, теперь становится приоритетным для многих государств. И они готовы на всё...
На Дзен Премиум я писал, как Илон Маск провернул настоящую аферу ради того, чтобы догнать ключевых игроков по внедрению ИИ.
Но этот материал не для публичного доступа:
Теперь же новоизбранный президент США Дональд Трамп подтвердил мои догадки, а также оправдал действия Илона Маска.
Вскоре после вступления в должность Дональд Трамп анонсировал новый проект, направленный на создание инфраструктуры, необходимой для разработки мощного искусственного интеллекта к 2030 году.
Проект, именуемый как Stargate («Звездные врата»), будет представлять из себя мега-датацентр, предназначенный для обучения нового поколения нейросетей, которые должны будут обладать сильным общим искусственным интеллектом AGI (Artificial General Intelligence).
Stargate — это новая американская компания, являющаяся совместным предприятием OpenAI, SoftBank и Oracle.
Цель Трампа — как можно скорее создать в США суперинтеллект. Он считает, что это станет лучшим шагом к укреплению национальной безопасности и созданию более сильного и процветающего государства.
В свете этой новой цели никакие угрозы и прочие скайнеты теперь официально не берутся в расчет. Трамп даже отменил указ Байдена о безопасной разработке ИИ, обнулив все ранее принятые стандарты безопасности в области разработки искусственного интеллекта.
Теперь новая цель состоит в объединении усилий крупнейших американских технологических компаний, работающих в области ИИ, таких как OpenAI и Oracle, для создания единого универсального суперинтеллекта, который должен опередить активное развитие и доминацию Китая в мировой ИИ-гонке.
Японский SoftBank уже заявил, что вложит в проект американского суперинтеллекта 100 миллиардов долларов, и теперь Трамп заявил о дополнительных инвестициях до 500 миллиардов долларов:
Инвестиции, выделяемые на проект Stargate, настолько значительны, что это уже далеко не научная программа, а важный стратегический шаг в глобальной гонке технологий. США стремятся укрепить свои позиции и не допустить доминирования Китая в вопросе разработки ИИ.
Для справки, китайская нейросеть DeepSeek-V3 по своим возможностям догнала всех американских конкурентов, и, как признают американские независимые аналитики, в некоторых аспектах китайская модель превосходит GPT-4o и не уступает мощнейшей на сегодня нейросети GPT-4o1 pro.
Известно, что американский ИИ будет основан на GPT-5 от OpenAI, а возводимая инфраструктура за 500 миллиардов долларов является банальным наращиванием вычислительных мощностей для OpenAI.
Но Америка не была бы Америкой, если бы не собиралась искусственно ограничивать прогресс конкурентов. Как показало расследование, китайская нейросеть DeepSeek-V3 была обучена на графических процессорах Nvidia H800 всего за два месяца. При этом с ноября 2023 года китайские компании не могли закупать подобные процессоры из-за экспортных ограничений, введённых Министерством торговли США.
Как подтвердили представители Nvidia, ограничения распространяются на чипы компании A100, A800, H100, H800, L40, L40S и RTX 4090.
Появление DeepSeek-V3 доказало, что прежняя санкционная политика США, направленная на запрет продажи более совершенных чипов искусственного интеллекта в Китай, не работает.
Потому Джо Байден перед своим уходом с поста президента подписал указ о введении дополнительных ограничений на экспорт любых технологий и чипов для создания и обучения искусственного интеллекта.
Экспорт уже обученных ИИ-моделей также будет полностью прекращён.
Эти меры направлены на то, чтобы не допустить попадания передовых технологий США в руки таких стран, как Китай и Россия.
Экспортные ограничения делятся на три группы:
- В первую группу, где доступ к американским чипам останется практически неограниченным, войдут США и их 18 приспешников, включая Германию, Японию, Южную Корею, Нидерланды и Тайвань.
- Большинство стран мира будут относиться ко второй группе, в которой будут действовать строгие ограничения на импорт вычислительных мощностей и технологий США.
- Третья группа будет включать Китай, Россию и ещё около двух десятков стран, которым доступ к американским технологиям будет практически полностью закрыт, включая услуги по обучению больших языковых моделей.
Теперь любая продукция той же Nvidia, в которой используются нейросетевые технологии, будет под строгим экспортным контролем торговой палаты США.
Как видим, этими мощными инструментами, в том числе ИИ, хотят владеть только западные страны… И чего тут удивительного?
Чем ответит Китай и Россия?
Помимо того, что власти Китая в ответ ввели прямой запрет на экспорт в США ряда материалов, применяемых в производстве микроэлектроники, в том числе галлия, германия, сурьмы и сверхтвёрдых материалов, Китай разрабатывает свои графические процессоры для обучения нейросетей.
В середине 2023 года китайский производитель графических процессоров MetaX представил процессор MetaX Xisi N100, предназначенный для приложений, связанных с искусственным интеллектом и обработкой видео.
MetaX не раскрывает, какую технологию производства использует для создания Xisi N100, но известно, что первый графический процессор Muxi с использованием 7-нм технологии ожидает массовое производство в 2025 году.
По своей производительности китайская разработка уступает в 12,5 раз американскому графическому процессору NVIDIA H100 (по количеству целочисленных операций в секунду) и в 2,375 раза ускорителю AMD Mi250.
В России ситуация сильно хуже, и разработка стандартных графических электронных процессоров нам пока недоступна из-за неразвитости нашей электронной компонентной базы, поэтому мы пошли другим путем через создание оптических систем, а именно аналоговых фотонных сопроцессорах (АФС).
Также была подтверждена возможность их серийного производства на уже существующей технологической базе Российской Федерации.
Теоретически российский АФС будет от 5 до 50 раз производительнее, чем NVIDIA H100:
В 2025-2026 году должны быть созданы уже полноценные работающие образцы с полной интеграцией оптической и электронных систем в единый электронно-фотонный вычислительный комплекс с пиковой производительностью на один процессор в 10¹⁷ Опс.
По сути, это наш ответ зарубежным графическим процессорам, где мы очень скоро не только догоним передовые разработки NVIDIA, но и превзойдем их по энергоэффективности и вычислительной мощности. Подробнее о технологии АФС и о том, как оптические системы будут использоваться для обучения нейросетей, я напишу для подписчиков «Дзен Премиум», ибо такой материал не для свободного доступа.
Постскриптум:
В 1980 году в университете Васэда был создан робот Wabot-2. Этот робот мог общаться с людьми, читать музыкальную нотную запись и играть на электронном органе.
Свежие комментарии