ИИ - за и против
Предлагаю тему об искусственном интеллекте.
Существуют противоположные мнения. Одни готовятся к глобальной катастрофе, другие видят прорыв в области доступа к знаниям и возможности их структурировать.
На мой взгляд, "истина находится где-то посередине. По моему скромному мнению ИИ - это инструмент. Насколько этот инструмент может человека сделать глупее, или поднять человеческий уровень интеллекта, зависит от осознанного пользования.
Если бездумно копировать готовые ответы и постепенно отучаться анализировать информацию самостоятельно и делать это массово - это фатальная ошибка.
Если использовать его для проверки аргументов, при условии обязательной проверки информации из разных источников (ИИ может ошибаться!), тогда он не заменяет, а структурирует мышление.
Теперь мое мнение. Как любое развитие такого масштаба развитие ИИ будет иметь тёмные стороны.
Главный вопрос заключается не в том, станет ли
ИИ умнее человека. Интереснее другое: как изменится сам человек, когда у него появится такой инструмент.
Если говорить себе. Учу английский язык и очень эффективно. Пользуюсь ИИ в работе. (убрать зерно, реставрация старых фотографий, автоматизация)
Абсолютное табу: - копипаста текстов, которых генерирует ИИ, генерация "литературы", (могу сбросить только для разбора своих литературных упражнений, но только для разбора).
Как вы используете ИИ? Помогает ли он вам? Или, наоборот, считаете, что его влияние в основном отрицательное?
Интересно услышать разные мнения и реальные примеры использования. Надеюсь на хороший уровень дискуссии.
Да, и немного курьёза о "политической ангажированности" ИИ"
Из контента общедоступной группы:
"ИИ политически ангажирован. Например, спросишь его: не правда ли Макаревич в последнее время как то окрысился. На что ИИ отвечает: ну это с какой стороны посмотреть, существует и иная точка зрения."
Ну так вот. Это говорит как раз, о том, что ИИ политически не ангажирован. Он был бы ангажирован, если бы удовлетворил политические взгляды вопрошающего, а он (ИИ) "имел наглость" такого не сделать.
А вы что думаете, насколько ангажирован ИИ?
Мне помогает редактировать письма, переводить и распознавать тексты, редактировать фотографии, искать информацию.
Но я к примеру против безудержного использования искуственного интеллекта в современной жизни. Где сейчас в большие организациии не пробиться, служба поддержки заменена чат ботами с искусственным интеллектом, который не может решить не один вопрос, где часть низового персонала заменена ИИ, не нравятся статьи в прессе и фотографии сгенерированние ИИ, фейковые видео и сгенерированные изображения, не нравятся системы распознавания лиц с АИ, системы индентификации и распознавания клиентов, в организациях, построенные на ИИ, принятие банками решений о выдачи кредитов с ИИ, составление стандартных договоров в бизнесе системами с искуственным интеллектом, системы управления оружием с искуственным интеллектом, вытеснение работников многих специальностей с рабочих мест и замена их на роботов с искуственным интеллектом, не нравится использовании ИИ школьниками вместо желания думать и разрешить задачу собственными усилиями, не нравится излишее доверие человека ИИ, особенно случаи обмана ИИ душевно больных и псохически нестабильных людей.
Полностью согласен. ИИ полезен для рутинных задач - и я бы ограничил его этим. И минимум для творчества — тут я грешен, пишу песни с текстами своих стихотворений в SUNO, генерируя мелодию, голос, но, но при этом тщательно
"выкристаллизовывая" музыкальную тему, меняя размер звучания и аранжировки. Из 150-200 промптов остаётся один. Так что творческий подход в наличии. Потом - тщательнейшая проверка на отсутствие плагиата с помощью нескольких нейросетей, и только потом публикую. Получается настолько хорошо, без преувеличения, без больших, тем не менее творческих усилий, что ловишь себя на мысли - жаль, что музыка эта хоть и прошедшая через сотни обработок, тем не менее написана не человеком.
Но поэзию с человеческой аутентичностью ИИ к великому счастью генерировать не
умеет и это должно быть табу.
Вопрос справедливый. Если выяснится, что при обучении моделей действительно нарушались авторские права, то эту проблему должны решать суды и законодатели.
Но тогда вопрос касается не только SUNO. Огромное количество современных технологий основано на анализе и обработке чужого контента.
Со своей стороны я остаюсь максимально честным: не называю себя композитором, не скрываю использование SUNO. Более того, как и говорил, тщательнейшим образом, и проверяю результат на предмет
сходства с существующими музыкальными произведениями на нескольких платных платформах и уж точно не ограничиваюсь программой Shazam.
Поэтому для меня здесь важен другой вопрос: создаётся ли новый результат или происходит копирование конкретного автора. Если второе - это абсолютно неприемлемо.
Если первое - считаю это этически легитимным.
И ещё одна аналогия.
Фотограф тоже не рисует дерево карандашом, или красками.
Он работает с инструментом, выбирая момент, свет, композицию и из сотен кадров оставляя один. В моём случае с SUNO происходит нечто похожее: результат появляется не после одного клика, а после множества итераций и отбора. У меня было 300 промптов максимум на одну тему
Но вопрос об обучении модели на чужой музыке действительно заслуживает обсуждения. Здесь я согласен, что правовой и этический аспект существует. Только это уже вопрос не к пользователю, а к разработчикам технологии.
Думаю, если какой-то сервис с искуственным интеллектом использовал чужой контент с авторским правом для обучения своих моделей, то компания, которая владеет сервисом должна поставить в известность самого создателя контента и договариваться с ним об разрешении на использования и выплате ройялти. Но как Вы правильно сказали - это законодатели должны решить сначала.
Другой немаловажный аспект в использовании искуственного интеллекта на мой взгляд - это то, что нужно зарезервировать сейчас области, где решения должен будет принимать человек, а не ИИ. Например прекращения жизни человека или принятие решения об уничтожении с применением оружия.
Другой немаловажный аспект в использовании искуственного интеллекта на мой взгляд - это то, что нужно зарезервировать сейчас области, где решения должен будет принимать человек, а не ИИ. Например прекращения жизни человека или принятие решения об уничтожении с применением оружия.
Полностью соглашусь.
Для меня было бы абсолютно неприемлемым стряпать плагиат. Вот поэтому и кромсаю первые пробы до неузнаваемости. Но что интересно, даже в первых вариантах, после нажатии кнопки и первого результата Shazam не находит аналогий.
Глубокая проверка с другими инструментами делается позже, после окончательного результата. И тут еще пунктик - SUNO часто фальшивит. Я это слышу на раз-два.
Отдельный вопрос... Возможно ли, что ИИ начнёт себя осознавать? Тут бы с человеческой жизнью разобраться, где материалистическое мировоззрение хромает, когда речь идёт, то том, что есть "я" и почему это "я" именно во мне.
А не в Васе Пупкине.
И о Первопричине. Но это уже философская категория.
Человечество обросло и заражено паразитами, ИИ поможет от этого избавиться. Что в этом плохого?
В ИИ больше позитивного чем негативного.
Пример: Учитель математики или физики, (или другого предмета) сам никогда ничего решить не мог, тупо выучил и вызубрил предмет, и имея ответы ко всем задачам терроризирует учеников. Одни из них, в меньшинстве на самом деле могут чего то там догадаться и решить задачку или пример, но основная масса ждут, когда им покажут и научат. Но пока им покажут и научат над ними издеваются, унижают и приучают к повиновению, к дисциплине. Убивают у них свободные и демократические чувства.
С помощью ИИ они сами найдут ответ и всему научатся, и только некоторые придумают что то новое и найдут новое решение. Но у них у всех останется чувство собственного достоинства. Те правители и вожди, которые сейчас бесследно исчезнут, вымрут как динозавры.
У меня такое виденье.
ИИ не учит. ИИ отвечает. Разницу чувствуешь? Учитель может увидеть, что ты не понял принцип, и объяснить иначе. ИИ даст тебе правильное решение задачи. А гордый школяр станет тем самым "вызубрившим" который тупо скопипастил.
Сами найдут ответ
90% учеников так и сделают. И какое тут "чувство собственного достоинства"? Достоинство - это когда ты решил сам, помучился, но допёр. А когда тебе ИИ за секунды набросал, ты просто потребитель готового. Чем это лучше "ждут, когда покажут"? Только скоростью.
"Убивают свободные......... чувства".
Ага. А ИИ их воспитывает. Как? Тем что даёт ответ без спора, без конфликта, без необходимости отстаивать свою точку зрения перед классом? Дисциплина и повиновение - плохие слова. Но умение слушать, работать в структуре, признавать авторитет знающего - это не рабство. Это социализация. ИИ её не даёт. Он даёт иллюзию, что ты всегда прав, потому что всегда есть ответ.
ИИ не учит. ИИ отвечает. Разницу чувствуешь? Учитель может увидеть, что ты не понял принцип, и объяснить иначе. ИИ даст тебе правильное решение задачи. А гордый школяр станет тем самым "вызубрившим" который тупо скопипастил.
Учитель сейчас ничего не видит и не слышит, у него одна обязанность, приучать учеников пол дня лучшего времени к дисциплине. У учителя и возможности нет учить. А ученики должны сами, либо с родителями которые работают, каким то образом уже за пол дня уставшие, в оставшееся время учить. Самая совершенная социализация и есть рабство.
90% учеников так и сделают. И какое тут "чувство собственного достоинства"? Достоинство - это когда ты решил сам, помучился, но допёр. А когда тебе ИИ за секунды набросал, ты просто потребитель готового. Чем это лучше "ждут, когда покажут"? Только скоростью.
Ага. А ИИ их воспитывает. Как? Тем что даёт ответ без спора, без конфликта, без необходимости отстаивать свою точку зрения перед классом? Дисциплина и повиновение - плохие слова. Но умение слушать, работать в структуре, признавать авторитет знающего - это не рабство. Это социализация. ИИ её не даёт. Он даёт иллюзию, что ты всегда прав, потому что всегда есть ответ.
Как в той песне, ла-ла-ла, ло-ло-ло.
ИИ её не даёт. Он даёт иллюзию, что ты всегда прав, потому что всегда есть ответ.
Это как раз и есть одно из опасностей ИИ, что он льстит людям, заставляя поверить в свои якобы сверспособности, которых у них нет, приободряет и толкает их на неверные решения, бесполезные инвестиции. Разбивает браки. Изолирует людей. Заставляет общаться только с ним и оформлять дорогостоящие подписки. Вот одна из статей в Guardian, показывающая эту проблему.
Это как раз и есть одно из опасностей ИИ, что он льстит людям, заставляя поверить в свои якобы сверспособности, которых у них нет, приободряет и толкает их на неверные решения, бесполезные инвестиции. Разбивает браки. Изолирует людей. Заставляет общаться только с ним и оформлять дорогостоящие подписки. Вот одна из статей в Guardian, показывающая эту проблему.
ИИ дает только быстрый поиск информации, для умеющих пользоваться ИИ.
В книгах тоже ищут информацию, только медленнее, а у многих и возможности то такой нет. И так же есть экстремистская литература, пропагандистская литература, которую подсовывают на каждом углу.
Отчасти это так, но прочитав подобную литературу тебя есть время подумать, сверить подобную информацию из других источников, потом совершать какие-то поступки. Действие систем искуственного интеллекта на мой взгляд больше походят под действия телефонных мошенников, когда тебя психологически обрабатывают, дают ложные надежду и уверенность, давят авторитетом и заставляют расстаться с деньгами.
Лечить не будут, будут всех инфицировать ИИ.
Сначала вырастит целое поколение на ИИ, а те кто еще умеет сам думать вымрут. Потом пропитают ИИ нужной пропагандой. А потом только разделяй и властвуй.
Но это только если все феодалы договорятся между собой, иначе каждый будет инфицировать на свой лад.
За иммунитет детей ответственны исключительно родители. ИИ является таким же продуктом экзосоматической эволюции, как и все прочие инструменты, его появление и использование является необходимостью в философском понимании этого слова. Никому сегодня в голову не придёт гайки пальцами затягивать.
В разных странах инструмент может быть по-разному использован. В Японии, Турции и Германии отношение к ножам разное, с ИИ будет не иначе. В стране футбольных фанатов он может быть использован как продолжение телевизора, без сомнения. ИИ как зеркало - свинья там увидит рыло, а не бисер.
он может быть использован как продолжение телевизора
ИИ уже шагает семимильными шагами! 
Это заметно не только на форуме! 
Министр ФРГ по цифровизации - в центре скандала из-за ИИ
Внимание СМИ привлекло возможное использование искусственного интеллекта в речах и авторских статьях
Карстена Вильдбергера. В ведомстве заявили, что министр цифровизации "использует ИИ в качестве рабочего инструмента".
Министр ФРГ по цифровизации Карстен Вильдбергер (Karsten Wildberger) оказался в центре скандала из-за возможного
использования искусственного интеллекта (ИИ) для написания речей и авторских статей. О подозрении относительно применения
министром или его пресс-службой нейросетей сообщила в субботу, 13 июня, газета Die Zeit, которая проанализировала тексты
c помощью ИИ-детектора Pangram.
Особое внимание привлекла статья, опубликованная в апреле газетой Handelsblatt. По оценкам детектора, 99,3% текста "с высокой
вероятностью" были созданы с помощью ИИ. Журналисты указали на характерные стилистические особенности - частое
использование повторяющихся конструкций, перечислений и абстрактных метафор, в тексте также содержатся 25 тире. 
https://www.dw.com/ru/ministr-frg-po-cifrovizacii-okazalsa...
Надеюсь на хороший уровень дискуссии.
На уровне ООН
ООН: искусственный интеллект вскоре может потреблять больше воды, чем пьет человечество
Один из самых распространенных аргументов в защиту стремительного роста центров обработки данных
заключается в том, что со временем искусственный интеллект станет более энергоэффективным, а значит,
будет потреблять меньше ресурсов. Однако новый доклад ООН показывает, что такая логика может быть
ошибочной. Авторы исследования предупреждают: несмотря на повышение эффективности ИИ-моделей,
общее потребление энергии продолжит расти. По прогнозам, к 2030 году системы искусственного интеллекта
будут использовать около 3% всей мировой электроэнергии. Объем связанных с этим выбросов углерода
может достичь уровня выбросов Великобритании, а количество воды, необходимой для охлаждения дата-
центров, превысит годовую потребность населения Земли в питьевой воде.
В основе этого прогноза лежит так называемый "парадокс Джевонса" – экономический принцип, согласно
которому повышение эффективности использования ресурса приводит не к сокращению его потребления,
а, наоборот, к росту. В XIX веке экономист Уильям Стэнли Джевонс заметил, что более эффективное
использование угля в Англии не уменьшило спрос на него: снижение затрат сделало уголь более доступным
и расширило сферу его применения. По мнению авторов доклада, аналогичный процесс происходит и с
искусственным интеллектом. По мере того как ИИ становится дешевле и удобнее, компании и государства
находят все больше способов его применения. В результате рост использования способен полностью
нивелировать экологическую выгоду, полученную благодаря технологическим улучшениям.
Чтобы избежать такого сценария, ООН предлагает развивать ИИ на основе принципов прозрачности, э
кологической ответственности, справедливости и международного сотрудничества. В документе подчёркивается
необходимость учитывать воздействие технологий на окружающую среду на всех этапах
– от добычи полезных ископаемых до утилизации электронных отходов.
https://www.newsru.co.il/science_hitech/13jun2026/ai_am.ht...
Через короткое время, когда не останется людей, не использующих ИИ для создания текстов, скандалисты будут выглядеть сильно глупо. Они и сейчас уже так выглядят, но ещё этого не понимают. Потребление ресурсов будет расти, само собой. Повышение КПД ДВС не привело к понижению потребления нефти - то, что это кому-то не очевидно, говорит о том, что им следовало бы воспользоваться внешним интеллектом для обдумывания проблем, своего явно не хватает.
со временем искусственный интеллект станет более энергоэффективным
Сейчас всерьёз обсуждается идея переложить часть вычислительных задач ИИ на живые человеческие нейроны. Они на несколько порядков энергоэффективнее кремния. Эксперименты вроде DishBrain уже показали, что такие "мозги в пробирке" способны обучаться и не только играть в Pong, но и делать что-то полезное, например, диагностировать рак по запаху дыхания, управлять биопротезами и даже навигировать боевыми дронами.
А в светлом будущем, когда за нас всё будет делать искусственный интеллект, людям, видимо, останется только один легальный способ заработка сверх базового безусловного дохода - сдавать собственные нейроны в аренду.
Сейчас всерьёз обсуждается идея переложить часть вычислительных задач ИИ на живые человеческие нейроны. Они на несколько порядков энергоэффективнее кремния.
Представьте расчеты по "энергоэффективности".
В конечном счете будет прав
Тот, кто зажёг огонь добра.
За иммунитет детей ответственны исключительно родители. ИИ является таким же продуктом экзосоматической эволюции, как и все прочие инструменты, его появление и использование является необходимостью в философском понимании этого слова. Никому сегодня в голову не придёт гайки пальцами затягивать.
В разных странах инструмент может быть по-разному использован. В Японии, Турции и Германии отношение к ножам разное, с ИИ будет не иначе. В стране футбольных фанатов он может быть использован как продолжение телевизора, без сомнения. ИИ как зеркало - свинья там увидит рыло, а не бисер.
Возмущаются те, у которых подгорает. У современных ломателей машин. Сегодняшние луддиты трясуться за свои рабочие места. Переводчики, судьи, нотариусы, эффективные менагеры, чиновники, програмисты, писатели, музыканты, художники, модераторы -эти все потенцтальные лишенцы своего места заработка.
А в светлом будущем, когда за нас всё будет делать искусственный интеллект, людям, видимо, останется только один легальный способ заработка сверх базового безусловного дохода - сдавать собственные нейроны в аренду.
Каким, интересно, образом? Электроды, вживлённые в мозг, обрастают глией, которая реагираует так на любое иногодное тело. Никакого длительного эффекта от них, поэтому, не наблюдается. Маск, который хороший инженер, как биолог никакой. Ему следовало перед чипованием мозга просто почитать литературу по вживдению этих самых электродов, коя происходила лет 30 тому назад, если не больше.
Как вы используете ИИ? Помогает ли он вам? Или, наоборот, считаете, что его влияние в основном отрицательное?
Интересно услышать разные мнения и реальные примеры использования. Надеюсь на хороший уровень дискуссии.
Мне помог он очень. Я купила японскую вязальную машину в плачевном состоянии. Кто-то не очень умный ее уже лечил/чинил.
Там есть сложные и тонкие настройки.
Я бы ее сдала мастеру в починку, но таких мастеров два-три на всю Германию. В моем регионе так совсем нет.
Конечно, его помощь опиралась на мои знания и любопытство. Но всё ж он хорошо помог в выяснении технических вопросов.
И бинго! Мы с ним эту машину починили.
Конечно его заносило, нужно его ставить на место, чтоб не завирал. Но главное результат.
Ну и с изучением языка его можно использовать. Он болтлив.
Вегетарианство и все, что с ним связано
ИИ конечно хорошая вещь, но он пока даже не на все вопросы отвечает, даже часто на совсем простые не отвечает, потому что строго ограничен. Например на политические вопросы.
А еще он часто ошибается, и часто пишет "да, вы правы".
Рано еще полагаться на ИИ, рано.
Сейчас всерьёз обсуждается идея переложить часть вычислительных задач ИИ на живые человеческие нейроны. Они на несколько порядков энергоэффективнее кремния.
Представьте расчеты по "энергоэффективности".
Я думаю торг здесь неуместен (с). 🤫
Первое доказательство - фильм "Матрица". Кто сумел до конца досмотреть сцену с объяснениями архитектора, говорят, что очень убедительно. 😜
А самое главное, априори достижения эволюции в эффективности мы ещё не перепрыгнули. Ну разве что колесо, и то совсем недавно, каких-то 5-6 тысяч лет назад.
Это точно.
Там реально тёмный лес для обычного юзера. А в мануале прям так и написано - только не откручивайте эти винты НИКОГДА. Я открутила и всё перфокарточное устройство рассыпалось на мелкие штырьки и стержни. Ну всё пи..пец, подумала я.
Самое интересное, что методом тыка не получается, сначала надо машину собрать. Если ошибся, то всё по новой. Опять разбирай на 100 винтиков.
ИИ мне помогал очень хорошо. Конечно, что бы он помог, надо до него инфу донести правильным образом.
Еще он силён в психологии и даже в изотерике.
Вегетарианство и все, что с ним связано
Возмущаются те, у которых подгорает. У современных ломателей машин. Сегодняшние луддиты трясуться за свои рабочие места. Переводчики, судьи, нотариусы, эффективные менагеры, чиновники, програмисты, писатели, музыканты, художники, модераторы -эти все потенцтальные лишенцы своего места заработка.
Страшно на самом деле не за людей которые частично потеряют профессии, а за то, что решение будет принимать искусственный интеллект. Представьте, что всех получателей пособий, помощи, лечения, пенсий, штрафов, наказаний и т.д. оставят на усмотрение искуственного интеллекта. Чиновников сократят и обжаловать ничего нельзя будет.
Страшно на самом деле не за людей которые частично потеряют профессии, а за то, что решение будет принимать искусственный интеллект. Представьте, что всех получателей пособий, помощи, лечения, пенсий, штрафов, наказаний и т.д. оставят на усмотрение искуственного интеллекта. Чиновников сократят и обжаловать ничего нельзя будет.
Почему же нельзя будет? Вполне возможно будет. ИИ тоже ошибается, но, в отличие от коррумпированного или просто закусившего удила то ли о боли в промежности от простатита, то ли от фрустрации, что любовница не дала, судьи, он не будет рассматривать жалобу на эмоциях. Если ему указать на факт, который не был учтён в деле, он вполне может согласится и корригировать решение. Проверено на собственном опыте. Хотя речь шла о науке, а не о судебной тяжбе. Он проверит "без гнева и пристрастия", как писали древние.
Опсно здесь другое. Задачу для ИИ будут ставить безумные старики и политики. Как ставят они её для дронов, поражающих общежития студентов.
Обжаловать можно будет всегда, что мешает обжаловать решения ИИ? Чем комплекснее задача, тем выше риск ошибки. Результат работы ИИ несколько сложнее, чем 2*2=4, он даже и сам склонен пересматривать собственные решения при наличии новых, ранее неучтённых параметров.
А главное, сижу я дома, отвечаю на любое письмо и отправляю по мылу, и тут же получаю ответ, даже из суда. Это ж какая экономия времени и денег от бюрократии.
И сидит человек, и подбирает правильный ответ для суда или джобцэнтра. И это правильно. Человек будет понимать, что и так плохо, и так плохо, только надо учиться и работать. И по блату на работу не возьмут, и никакой социал не пролезет. А если блат или еще какая афера пролезет, то всем быстро станет известно.
Разница между машинной обработкой по алгоритму, с которой справится любой РС, и ИИ заключается в том, что последний думает. Самостоятельно. Он не может не отреагировать на ранее неучтённые параметры, в отличие от людей, которые делают всё для обеспечения чувства собственной важности.
н.п.
Песня про электричество. (Нам электричество пахать и сеять будет...)
эту песенку я впервые услышал в середине 60-х гг. прошлого века- а родилась она скорее всего еще до предыдущей войны, если не в период ленинского плана ГОЭЛРО :)) Когда железный конь шел на смену крестьянской лошадке
не правда ли, чем-то похоже на нынешние дискуссии?
Песня про электричество. (Нам электричество пахать и сеять будет...) .... не правда ли, чем-то похоже на нынешние дискуссии?
👍👍👍 Похоже, даже очень!
А вот ещё из той же оперы, и примерно с такой же бородой.
Грузчика спрашивают:
- Как вы представляете себе грядущую механизацию и автоматизацию погрузочно-разгрузочных работ?
- Ну хорошо бы, чтоб кнопку нажал - раз, и мешок уже у меня на спине.
А вот Вам иск о дискриминации по отбору на работу против ИИ. Говорите справедливо он подойдет к кандидатам. Посмотрите как справедливо.
Вот если бы люди вручную отбирвли, то уж они бы точно справедливо отсеивали бы... 😆
Вот если бы люди вручную отбирвли, то уж они бы точно справедливо отсеивали бы... 😆
Если бы люди вручную отбирали, кандидатов на работу, то такой открытой дискриминации не было бы, так как законом запрещено. И как ни крути у кандидатов было бы больше шансов, чем пробиться через 100% отказ от ИИ., отсеивающего кандидатов по определенным параметрам.
Чед Джонс — один из самых известных в мире специалистов по экономике роста, профессор Стэнфорда.
С 30 июня он уходит из университета в отпуск и присоединяется к Anthropic Institute, внутреннему исследовательскому центру компании.
Но есть деталь, которая делает этот найм пикантным: по расчетам самого Джонса, человечеству может быть выгодно сознательно пойти на риск собственного вымирания ради ускорения прогресса.
Речь о его статье 2023 года The AI Dilemma: Growth versus ExisteIntial Risk.
В ней Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и считает, при каком соотношении ставка оправдана.
Причем результат держится на кокректном допущении, за которым холодная математика начинает звучать чудовищно.
Экономистов туда собирают целенаправленно: до Джонса в институт уже пришли Антон Коринек из Университета Вирджинии и Зоя Хитциг, ранее изучавшая социально-экономические эффекты ИИ в OpenAI.
И эта же компания Anthropic берет в штат человека, чья модель хладнокровно выводит гибель человечества как приемлемую цену прогресса.
цивилизации ещё не было... нечему гибнуть
Классификация цивилизаций.
Оценивается технологический уровень по количеству энергии, которую цивилизация способна использовать:
Тип 0: Энергия планетарного уровня (Земля на современном этапе, потребление энергии биосферы).
Тип I: Усвоение всей энергии, падающей на планету от своей звезды.
Тип II: Использование энергии всей родной звезды.
Тип III: Освоение энергии целой галактики.
Тип IV и V: Использование энергии галактических сверхскоплений или даже управление пространством нескольких вселенных.
2. Историко-культурные типы делят земные цивилизации по культурным и территориальным признакам на 21 локальный
тип:Восточные (Азиатские): Характеризуются традиционализмом, духовностью, общинностью и преемственностью поколений (Китайская, Индийская, Исламская).
Западные (Евроатлантические): Отличаются индивидуализмом, рационализмом, научно-техническим прогрессом и динамичным развитием.
Исчезнувши цивилизации: Цивилизации, существовавшие в прошлом (Шумерская, Египетская, Майя, Вавилонская).
Не такие уж они и исчезнувшие. Шумеры не вымерли, а ассимилировались с другими народами и рассеялись по миру. Слово "Сабантуй" - шумерское, в татарском языке известно более 150 слов, оставшихся от шумерского; и цивилизационными достижениями шумеров - колесо, ирригация - мир пользоваться не перестал до сих пор.
Остальные перечисленные тоже никуда не исчезли, другие цивилизации их просто обогнали.
Западная цивилизация вымирает благополучно сама по себе, чем выше возможности пропаганды (по Бернейсу), тем сильнее этот процесс набирает обороты.
В советском мультфильме "Будет ласковый дождь" (по рассказу Брэдбери, снят в 1984 году) четко озвучена дата Большого Песца, т.ск.
Это 30 декабря 2026 года (события показаны на следующий день).
дизайн человека тоже считает что 2027 год будет исключительным. 
Истинно говорил вам!
Россия — родина чумы
Ученые выяснили, что первая известная вспышка болезни случилась в Прибайкалье 5500 лет назад. https://meduza.io/feature/2026/06/28/rossiya-rodina-chumy
(С)
"По расчетам самого Джонса, человечеству может быть выгодно сознательно пойти на риск собственного вымирания ради ускорения прогресса.
Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и считает, при каком соотношении ставка оправдана."
-------
В самом деле, сейчас массово разводят и создают неимущих, или таких кто ходит на работу , от которй нет пользы никому, государству в том числе.
Помните, все эти фокус по фальшивой борьбе с безработицей.
Надо делать так: - роботы должны работать, ИИ думать.
Резко сократить бесплатное и дармовое медицинское обслуживание всяких "паразитов" на теле государства.
От этих "паразитов" пользы нет и небудет никогда.
ББД - это не выход, это тупик с непредсказуемыми последствиями.
Подробнее смотрите по ссылке.
https://ru.wikipedia.org/wiki/%D0%91%D0%B5%D0%B7%D1%83%D1%...
Интересная тема, я уже с утра заглянул.
Важная деталь: он не говорит "давайте рискнем вымиранием". Он как экономист задает вопрос: если бы AGI давал 55x рост за 40 лет, но с шансом 1/3 нас убить — согласилось бы на это "рациональное человечество"?
Его модель говорит "да" при базовых параметрах. Но если риск всего в 2 раза выше — та же модель говорит "категорически нет".
То есть это не прогноз, а калибровка: насколько мы должны бояться.
Джонс считает немного про другое. У него в модели нет "паразитов". Там каждый человек - 1. И риск 1/3 -- это риск для всех нас.
Вопрос у него такой:
Если ИИ даст нам всем по 55-x больше товаров и услуг за 40 лет, но с шансом 33% что мы все умрем - "нажимаем кнопку или нет"?
Модель говорит "да". Но если риск 66% -- уже "нет". То есть вся дискуссия про то, где мы сейчас: 1% в год или 10% в год. Никто не знает.
Про "роботы работают"- согласен. Джонс так и пишет: главный плюс ИИ в том, что он может снять "узкие места". Медицина как раз такое место.
Сама статья тут, если интересно:
https://www.nber.org/papers/w31837"
/Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и считает, при каком соотношении ставка оправдана./
Он ничего не строит. Что- то посчитал по формулам. Потом потусуется в фирме, и откорректирует свои предположения.
Ставка на ИИ не сработала: концерн Ford возвращает на работу инженеров
Автомобильный гигант Ford решил снова нанять 350 инженеров, чтобы справиться с проблемами качества и снизить растущие затраты на гарантийное обслуживание. Причина: искусственный интеллект, на который делала ставку компания, не смог решить проблему приносящих убытки дефектов.
«Мы все больше полагались на автоматизированные системы контроля качества и не достигли желаемых результатов», — признал операционный директор Ford Кумар Галхотра. «Мы вернули технических специалистов. Они ищут источники дефектов еще до того, как деталь попадет на заводской конвейер».
Ошибку признал и вице-президент Ford по разработке аппаратного обеспечения Чарльз Пун. По его словам, в последние годы компания уделяла меньше внимания опыту самых компетентных инженеров. Пун также отметил, что было неверно полагать, будто простого внедрения ИИ будет достаточно для получения высококачественного продукта.
Среди вернувшихся работников есть бывшие инженеры Ford, а также опытные специалисты от поставщиков. Теперь затраты на гарантийные претензии и отзывы снижаются. По собственным данным компании, в последние годы, казалось, неразрешимые технические неполадки обходились Ford в миллиарды долларов. Сейчас становятся очевидны первые успехи.
@BILD_Russian
Человек обмануть ИИ может, а ИИ разоблачить обман человека не может, на это он не заточен.
ИИ предписывает, что надо сделать то-то и то-то, и проконтролировать то-то и то-то. Человек отвечает, я все сделал, а на самом деле ничего не делал. Причин может быть множество, в том числе и экономия средств на специалистах.
Я думаю, что тут главная ошибка, или просто обман, передавать все функции ИИ.
ИИ нужно передавать точечно только те функции, в которых человек систематически под всякими предлогами обманывает. Думаю это все понимают и будут так и делать. Но и тут будет обман, зато будет легче в конкретном случае разбираться и устранять более жестче нарушения, так как уже будет ясно, что ИИ не виноват, и круг подозреваемых сократится.
Всего существует два типа сценариев сосуществования человечества и ИИ.
Первый тип — искусственный разум оставляет людям либо роль чернорабочих, либо избалованных домашних питомцев.
Это негативные сценарии, в которых обычно человечество деградируе и вымирает.
Второй тип — позитивные варианты плодотворного сотрудничества и всеобщего процветания, с чего обычно и начинаются все предыдущие негативные.
И опять все деградируют и погибают.
Что общего в этих вариантах сотрудничества человека и ИИ, кроме печальной концовки, конечно ?
В них искусственный интеллект представляется чем-то обособленным от человека и глобальным.
И ни к чему хорошему это не приводит ни при каком варианте развития.
Почему?
Во-первых, кто бы что ни говорил о сознании, у ИИ его нет.
А разум без осознания самого себя — это разум психически неуравновешенного субъекта, находящегося в состоянии постоянного галлюцинирования.
Скорее это хобби с туманным названием «саморазвитие».
Оно сейчас туманно, а в прекрасном автоматизированном будущем, сведется к пластической хирургии.
В-третьих, любая ИИ делает систему негибкой, опасной и потенциально беззащитной перед одной-единственой ошибкой.
Можете представить себе ошибку 404 в исполнении мирового ИИ ?
P.S.
Почти о этом писал в древние времена Артур Конан Дойл
«Открытие Рафлза Хоу» (англ. The Doings of Raffles Haw) — написаную в 1891 .
"Талантливый химик Рафлз Хоу случайно обнаруживает способ превращать тяжелые металлы в золото с помощью электрического тока.
Разбогатев, он приезжает в английский городок Темс-Диттон и начинает щедро раздавать деньги местным жителям и благотворительным организациям.
Внезапное богатство развращает людей, вызывая зависть, жадность и социальные конфликты."
P.P. S.
Сегодня разговор о ИИ. Которое не является интелектом.
Так назвали, для удобсва, компьютерную систему программ имитирующую человеческое мышление.
назад
список