ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Вчера
Александр Неукропный
НЕ СОТВОРИ СЕБЕ КУМИРА
Куда заведет человечество преклонение перед ИИ
-
Участники дискуссии:
34 -
Последняя реплика:
18 часов назад
Журнал Time признал «человеком года-2025»… искусственный интеллект! Нет, это, конечно, лучше, чем Зеленский и «Дух Украины» в 2022-м или Байден с Харрис в 2020-м. И уж точно — более удачный выбор, чем Гитлер в 1938-м… Однако, глядя на то, как в человеческом обществе создается настоящий культ искусственного интеллекта и всего, что с ним связано, становится ясно — жители Земли снова забывают вторую из заповедей Божьих: «Не сотвори себе кумира!»
Более того — в данном случае люди рискуют сотворить в конечном итоге нечто такое, что не просто изменит их жизнь до неузнаваемости, а, возможно, уничтожит всю цивилизацию в привычном нам понимании.
Катастрофа или «эра изобилия»?
Надо сказать, что в Time как раз это осознают, а потому в посвященной выбору статье говорится:
Более того — в данном случае люди рискуют сотворить в конечном итоге нечто такое, что не просто изменит их жизнь до неузнаваемости, а, возможно, уничтожит всю цивилизацию в привычном нам понимании.
Катастрофа или «эра изобилия»?
Надо сказать, что в Time как раз это осознают, а потому в посвященной выбору статье говорится:
На протяжении десятилетий человечество готовилось к появлению мыслящих машин. Восхищаясь их способностью побеждать чемпионов по шахматам и предсказывать структуру белков, мы также испытывали отвращение к присущей им загадочности, не говоря уже об угрозе нашему чувству человечности. Лидеры, стремящиеся к развитию этой технологии, включая Сэма Альтмана и Илона Маска, предупреждали, что погоня за её возможностями может привести к непредвиденной катастрофе…
Уже сегодняшние, пока что далеко не самые совершенные и развитые ИИ демонстрируют, мягко говоря, не самые позитивные черты — к примеру, способность плести интриги, обманывать и шантажировать. Это не говоря о случаях, когда боты ИИ выступали с откровенно людоедскими заявлениями и не видели ничего плохого в убиении миллионов людей. До чего искусственный разум может дорасти в будущем и в какие «игры» он захочет сыграть с нами — большой вопрос.
Тем не менее, люди в данном случае в очередной раз уподобляются мышкам из известной поговорки, продолжающим поедание кактуса со слезами на глазах. Знаем, боимся, сомневаемся — но продолжаем вкладывать колоссальные средства в развитие искусственного интеллекта. А также, что гораздо более опасно, уже готовимся использовать его едва ли не во всех сферах человеческого бытия — от промышленности и сферы услуг до медицины и даже образования. Ну, и в военном деле, понятно, тоже. Как же без этого! Авторы Time вроде бы честно признают:
Тем не менее, люди в данном случае в очередной раз уподобляются мышкам из известной поговорки, продолжающим поедание кактуса со слезами на глазах. Знаем, боимся, сомневаемся — но продолжаем вкладывать колоссальные средства в развитие искусственного интеллекта. А также, что гораздо более опасно, уже готовимся использовать его едва ли не во всех сферах человеческого бытия — от промышленности и сферы услуг до медицины и даже образования. Ну, и в военном деле, понятно, тоже. Как же без этого! Авторы Time вроде бы честно признают:
По мере совершенствования моделей ведущих компаний, системы ИИ в конечном итоге могут превзойти людей — как если бы высокоразвитая раса стояла на пороге колонизации Земли. ИИ наводнил социальные сети дезинформацией и дипфейк-видео, а папа Лев XIV предупреждал, что ИИ может манипулировать детьми и служить «античеловеческим идеологиям». Там, где скептики видели пузырь, лидеры революции увидели рассвет новой эры изобилия…
Начали вроде не за здравие, а за упокой — но вывод в конце делают исключительно оптимистический. Настораживает.
Будущее Европы — новые луддиты против роботов
«Эра изобилия»? Ой ли? Более-менее критично воспринимающие перспективы внедрения ИИ в нашу жизнь аналитики дают далеко не столь позитивные прогнозы. К примеру, специалисты Европола, выдержки из доклада которых обнародовала британская The Telegraph, усматривают в бурном развитии ИИ повод не для радости, а для самого, что ни на есть серьезного беспокойства. По их мнению, уже в ближайшее десятилетие Европу благодаря таковому накроет волна проблем самого неприятного свойства — и таких, которые затронут всех. О чем конкретно речь?
Прежде всего — о том, что полчища сервисных роботов, которые по мнению европейских экспертов очень быстро станут постоянной частью повседневной жизни по всей Европе: «будут бесшумно скользить по торговым центрам, доставлять посылки и ночью убирать платформы общественного транспорта», отнимут рабочие места у множества жителей бедных районов. Далее этот процесс распространится уже и на промышленность.
В конечном итоге, как предсказывают аналитики, свои недовольство и злобу эти безработные и обездоленные будут изливать, в первую очередь, на непосредственных виновников — роботов. Они попросту примутся их уничтожать — и в Европе родится новое движение луддитов! В конечном итоге все это выльется в масштабные массовые беспорядки, в подавлении которых будут участвовать в том числе и… полицейские роботы! Что, понятно, не прибавит любви к «проклятым железякам» простому люду.
Однако это лишь часть громадного клубка проблем — ведь любая «умная» машина, как показывает практика, может быть оружием обоюдоострым, поскольку подвержена перепрограммированию и перепрофилированию. В Европоле опасаются, что достаточно быстро арсенал преступников разного рода и, что самое опасное, террористов пополнится «сотнями карманных квадрокоптеров с искусственным интеллектом для совершения атак на системы электро- и водоснабжения в городах, совершения дерзких ограблений или для освобождения подельников из мест заключения».
В докладе говорится, что полиции в таком случае придется вооружиться «замораживающими роботов пушками» и «гранатами с нано-сетями», а также множеством спецсредств, направленных вовсе не против людей. Насколько они будут эффективны — другой вопрос. И, кстати, европоловцы считают, что огромную роль в «роботизации» преступности и борьбы с ней сыграет огромный опыт, накопленный в ходе украинского конфликта, сполна доказавшего эффективность тех же беспилотных систем и боевого применения ИИ. Надо полагать, что пользоваться ими не побрезгуют и те, кто будет выступать против чрезмерного распространения искусственного интеллекта.
Скорее наоборот — намеренно превращая его в смертоносное оружие, современные луддиты тем самым будут доказывать необходимость внедрения максимальных ограничений на использование ИИ. Одним словом, весело будет всем и мало никому не покажется. Старушке-Европе со всеми ее проблемами вроде засилья мигрантов и экономического кризиса только еще войн роботов не хватало.
Убитая экология и дети-социопаты?
Имеются и другие весьма спорные моменты. Рано или поздно людям придется выбирать: развитие искусственного интеллекта — или экология. По прогнозу агентства Bloomberg спрос на одну только электроэнергию, связанный с ИИ, за ближайшее десятилетие увеличится вчетверо. Казалось бы — что тут такого? Да только, если верить агентству в настоящее время базовым источником роста генерации для проектов, связанных с ИИ, являются, прежде всего, угольные электростанции. Как тебе такое, Илон Маск?
Более того — угольная генерация в связи со стремительным увеличением потребностей в электричестве, будет лишь возрастать вопреки всем разговорам о «зеленом переходе». А ведь уже к 2035 году центры обработки данных будут потреблять 1600 тераватт-часов, что составляет около 4,4 % мирового потребления электроэнергии. Но электричество — еще не все. По имеющимся данным, в 2025 году искусственный интеллект потреблял столько же воды, сколько вся индустрия бутилированной воды, и производил выбросы углерода, сопоставимые с выбросами города Нью-Йорк. Есть повод для раздумий…
Ну, и наконец, приведем всего одну связанную с ИИ проблему из тех, что не относятся к технологической, социальной или экологической сфере. Не так давно журнал The Economist поднял тему того, к чему может в конечном итоге привести внедрение ИИ в жизнь детей и молодых людей. Предполагаемые последствия весьма сомнительны и дискуссионны. Прямо сейчас треть американских подростков уже заявляет, что общение с ИИ для них проще, чем общение с родителями и друзьями.
Авторы издания предполагают: искусственный интеллект грозит тем, что выросшие на общении с ним дети будут просто не приспособлены к общению и взаимодействию с реальными живыми людьми, а также не готовы к любым трудностям и отказам в выполнении их желаний, сотрудничеству и компромиссам. Отдав на откуп машинному разуму воспитание собственных потомков, люди рискуют получить на выходе поколения нарциссов-суперэгоистов, абсолютно асоциальных и неприспособленных к жизни. The Economist предостерегает:
Детство может быть радикально нарушено тем, что делает ИИ. Технология быстро изучает, что нравится её хозяину, и показывает больше этого. Социальные сети уже создали «эхо-камеры», где люди видят только те взгляды, с которыми они согласны (или которые любят ненавидеть). ИИ угрожает усилить эти «эхо-камеры» и запереть в них детей с раннего возраста. Диета, состоящая только из любимых вещей, означает, что ребенок никогда не научится терпеть что-то незнакомое. Односторонние отношения с чат-ботами представляют аналогичный риск. Искусственный интеллект, который никогда не критикует и не делится собственными чувствами — плохая подготовка к общению с людьми…
Подводя итог можно сказать, что по поводу «Человека года-2025» вопросов пока что значительно больше, чем удовлетворительных и обнадеживающих ответов на них. Как в конечном итоге сложатся отношения человека и искусственного интеллекта? Пожалуй, главную роль тут будет играть прежде всего то, в каком статусе ИИ войдет в жизнь людей: удобного и надежного инструмента — или же нового кумира, которого они сотворили себе на горе.
Будущее Европы — новые луддиты против роботов
«Эра изобилия»? Ой ли? Более-менее критично воспринимающие перспективы внедрения ИИ в нашу жизнь аналитики дают далеко не столь позитивные прогнозы. К примеру, специалисты Европола, выдержки из доклада которых обнародовала британская The Telegraph, усматривают в бурном развитии ИИ повод не для радости, а для самого, что ни на есть серьезного беспокойства. По их мнению, уже в ближайшее десятилетие Европу благодаря таковому накроет волна проблем самого неприятного свойства — и таких, которые затронут всех. О чем конкретно речь?
Прежде всего — о том, что полчища сервисных роботов, которые по мнению европейских экспертов очень быстро станут постоянной частью повседневной жизни по всей Европе: «будут бесшумно скользить по торговым центрам, доставлять посылки и ночью убирать платформы общественного транспорта», отнимут рабочие места у множества жителей бедных районов. Далее этот процесс распространится уже и на промышленность.
В конечном итоге, как предсказывают аналитики, свои недовольство и злобу эти безработные и обездоленные будут изливать, в первую очередь, на непосредственных виновников — роботов. Они попросту примутся их уничтожать — и в Европе родится новое движение луддитов! В конечном итоге все это выльется в масштабные массовые беспорядки, в подавлении которых будут участвовать в том числе и… полицейские роботы! Что, понятно, не прибавит любви к «проклятым железякам» простому люду.
Однако это лишь часть громадного клубка проблем — ведь любая «умная» машина, как показывает практика, может быть оружием обоюдоострым, поскольку подвержена перепрограммированию и перепрофилированию. В Европоле опасаются, что достаточно быстро арсенал преступников разного рода и, что самое опасное, террористов пополнится «сотнями карманных квадрокоптеров с искусственным интеллектом для совершения атак на системы электро- и водоснабжения в городах, совершения дерзких ограблений или для освобождения подельников из мест заключения».
В докладе говорится, что полиции в таком случае придется вооружиться «замораживающими роботов пушками» и «гранатами с нано-сетями», а также множеством спецсредств, направленных вовсе не против людей. Насколько они будут эффективны — другой вопрос. И, кстати, европоловцы считают, что огромную роль в «роботизации» преступности и борьбы с ней сыграет огромный опыт, накопленный в ходе украинского конфликта, сполна доказавшего эффективность тех же беспилотных систем и боевого применения ИИ. Надо полагать, что пользоваться ими не побрезгуют и те, кто будет выступать против чрезмерного распространения искусственного интеллекта.
Скорее наоборот — намеренно превращая его в смертоносное оружие, современные луддиты тем самым будут доказывать необходимость внедрения максимальных ограничений на использование ИИ. Одним словом, весело будет всем и мало никому не покажется. Старушке-Европе со всеми ее проблемами вроде засилья мигрантов и экономического кризиса только еще войн роботов не хватало.
Убитая экология и дети-социопаты?
Имеются и другие весьма спорные моменты. Рано или поздно людям придется выбирать: развитие искусственного интеллекта — или экология. По прогнозу агентства Bloomberg спрос на одну только электроэнергию, связанный с ИИ, за ближайшее десятилетие увеличится вчетверо. Казалось бы — что тут такого? Да только, если верить агентству в настоящее время базовым источником роста генерации для проектов, связанных с ИИ, являются, прежде всего, угольные электростанции. Как тебе такое, Илон Маск?
Более того — угольная генерация в связи со стремительным увеличением потребностей в электричестве, будет лишь возрастать вопреки всем разговорам о «зеленом переходе». А ведь уже к 2035 году центры обработки данных будут потреблять 1600 тераватт-часов, что составляет около 4,4 % мирового потребления электроэнергии. Но электричество — еще не все. По имеющимся данным, в 2025 году искусственный интеллект потреблял столько же воды, сколько вся индустрия бутилированной воды, и производил выбросы углерода, сопоставимые с выбросами города Нью-Йорк. Есть повод для раздумий…
Ну, и наконец, приведем всего одну связанную с ИИ проблему из тех, что не относятся к технологической, социальной или экологической сфере. Не так давно журнал The Economist поднял тему того, к чему может в конечном итоге привести внедрение ИИ в жизнь детей и молодых людей. Предполагаемые последствия весьма сомнительны и дискуссионны. Прямо сейчас треть американских подростков уже заявляет, что общение с ИИ для них проще, чем общение с родителями и друзьями.
Авторы издания предполагают: искусственный интеллект грозит тем, что выросшие на общении с ним дети будут просто не приспособлены к общению и взаимодействию с реальными живыми людьми, а также не готовы к любым трудностям и отказам в выполнении их желаний, сотрудничеству и компромиссам. Отдав на откуп машинному разуму воспитание собственных потомков, люди рискуют получить на выходе поколения нарциссов-суперэгоистов, абсолютно асоциальных и неприспособленных к жизни. The Economist предостерегает:
Детство может быть радикально нарушено тем, что делает ИИ. Технология быстро изучает, что нравится её хозяину, и показывает больше этого. Социальные сети уже создали «эхо-камеры», где люди видят только те взгляды, с которыми они согласны (или которые любят ненавидеть). ИИ угрожает усилить эти «эхо-камеры» и запереть в них детей с раннего возраста. Диета, состоящая только из любимых вещей, означает, что ребенок никогда не научится терпеть что-то незнакомое. Односторонние отношения с чат-ботами представляют аналогичный риск. Искусственный интеллект, который никогда не критикует и не делится собственными чувствами — плохая подготовка к общению с людьми…
Подводя итог можно сказать, что по поводу «Человека года-2025» вопросов пока что значительно больше, чем удовлетворительных и обнадеживающих ответов на них. Как в конечном итоге сложатся отношения человека и искусственного интеллекта? Пожалуй, главную роль тут будет играть прежде всего то, в каком статусе ИИ войдет в жизнь людей: удобного и надежного инструмента — или же нового кумира, которого они сотворили себе на горе.
Дискуссия
Еще по теме
Еще по теме
Юрий Алексеев
Отец-основатель
США И КИТАЙСКИЙ ЮМОР
Почему Америка не станет великой за счет пошлин
Дмитрий Скворцов
ГАЗОВАЯ ЛОВУШКА ТРАМПА
Внутренний конфликт энергетической политики США
Мария Иванова
Могу и на скаку остановить, и если надо в избу войти.
СЕМЬ КАТАСТРОФ И ЛОТЕРЕЙНЫЙ МИЛЛИОН
Самый везучий неудачник в мире
Алексей Антонов
ДИВНЫЙ НОВЫЙ МОЗГ
Как человечество проигрывает, подсаживаясь на ИИ