существует 70-процентная вероятность того, что ИИ уничтожит человечество

С чем мы приходим к возможному разрешению парадокса Ферми - парадокс «великого молчания» Вселенной.

До сих пор я тешил себя надеждой, что мы находимся в зоопарке, причем нас видно всем желающим, а мы не видим дальше собственного носа.

Поэтому старался вести себя подобающе

Помимо буйнопомешанных политиков с ядрёным чемоданчиком появилась другая реальная опасность, сверх-ИИ, гораздо менее прозрачная.

Возвращаясь к теме ветки:

никто не ждёт от чемпиона мира по фигурному катанию, что он ещё и в шашки лучше всех играть будет. Гениальность ИИ проявляется в распознавании серийных картинок (например рака кожи), создании/расшифровке протеинов (цитата - AlphaFord получил даже нобелевскую премию по биологии), игре го и прочих технических и около областях. С языком, искусством, правом и многими другими, чисто человеческими заморочками у этого "сухаря" пока (!) проблемки, навоз выдает часто.

Так точно дьяк, в приказах поседелый,
Спокойно зрит на правых и виновных,
Добру и злу внимая равнодушно,

Не ведая ни жалости, ни гнева...

В той же статье Die Zeit говорится, что может произойти, если до 2030 года ИИ не достигнет намеченных рубежей, не начнёт например программировать само себя. Тогда скорее всего инвестиции в ИИ начнут падать и его бурное сегодняшнее развитие может войти в более спокойное русло. Тогда можно надеяться на более осмысленное, более безопасное освоение этого ресурса.

... предсказывал Курцвейл...

Спасибо за развернутый пост, в особенности за упоминание Курцвейля!

Только от Вас о нём узнал, а тут как раз интервью с ним, несколько в противовес к Кокотайло. Не только более оптимистичное, но и гораздо интереснее,.

И кстати о теме ветки - в этом интервью говорится, что ИИ совсем недавно научилось юмору.

Я тут же в ChatGPT: Хочу проверить твою созидательность и способность шутить. Сочини короткий анекдот про ученых, впервые увидевших обезьян в библиотеке.

ChatGPT сказал:

Ученые впервые увидели обезьян в библиотеке. Один говорит:

— Потрясающе! Они тянутся к знаниям!
Второй:
— Да, особенно к разделу "Как украсть банан и остаться безнаказанным".
Третий смотрит на бардак и добавляет:
— Кажется, они ищут Дарвина... чтобы пожаловаться!

Не 128%, но здорово же для начала! По крайней мере в каждой фразе есть хохма, с ходу. Абсолютно не булшит!

И с третьей попытки заменил последнюю фразу на

— Один написал на полке: «Эволюция — это клевета!» и убегает с "Винни-Пухом".

А это уже "бабий аргумент" - метод, применяемый в дискусиях теми, кому по делу сказать нечего, а оппонента, тем не менее, "запинать" нужно.

Это Вы напрасно. Во-первых, если вы точно знаете, что такое целеполагание, то ответили бы спокойно, без всякой жестикуляции. А вот вторых... У ребёнка есть целеполагание? Да ни фига у него этого целеполагания нет. Целеполагание задают родители. Иногда с помощью витамина "Р" . Поставят ему цель и шагай родной. И далее детский Сад, Школа. Домашние задания (не наводит на мысли слово "задания", нет? ) А если родители у него с рождения волки, то волки и будут ему ставить цель, кого сожрать, а с кем лучше не связываться. И этим интеллект его и ограничится. Так что какие задания ему будут ставить, то из него и получится. Какие задания, такой и интеллект.

И чем ребёнок в этом смысле отличается от ИИ, который тоже не может сам себе ставить задания, то бишь, не обладает целеполаганием? Вот поэтому я перестал читать про разницу в целеполагании, ссылку на которую Вы предоставили. ИИ сейчас это тот же ребёнок. Но он быстро обучается. Быстрее, чем человек.

Тут промелькнуло про бред и галюцинации. Так ведь это же типичные человеческие качества. И про ошибки, мол, ИИ, ошибается. Так ведь это тоже человеческое - errare humanum est

н.п.

Как прошёл первый в мире разговор между двумя ИИ -

https://www.facebook.com/reel/1284473346599584

Булшит...

Прекрасно! Вот и давайте по существу, расскажите пожалуйста, чем именно вас это 45 минутное видео так впечатлило, почему его стоит смотреть.

А кто сказал, что именно оно, и именно впечатлило?

Это видео, я просто выставил в ответ Т.С., как одну из точек зрения, точку зрения человека, который так или иначе "в теме".

Когда я впервые смотрел это видео, у меня уже было устоявшееся (в результате собственных наблюдений и анализа (без эмоций) выступлений как сторонников так и противников) мнение по поводу ИИ энд Компани. Сачков, для меня, стал лишь дополнительным подтверждением правильности моих выводов, а именно, что ИИ, это всего-навсего алгоритм. Да, имеющий доступ к огромной и постоянно пополняемой (именно пополняемой, а не самопополняющейся, ибо за всем этим стоЯт люди), базе данных, из которой он и "питается", и единственное, что он может, это мгновенно находить правильный ответ. Там, где у человека, на поиск, ушла бы неделя, у него уходият доли секунды, и в этом единственнаяя его ценность.

В этом видео Сачкова я почерпнул лишь один ранее неизвестный мне момент, а именно то, что Чат не умеет считать. Ответы-то он даёт мгновенно, но прикол в том, что он не считает, он черпАет их из уже заложеных в систему десятков миллиардов вариантов правильных ответов. Систему постоянно пополняют, но занести в систему триллионы правильных ответов на все возможные задачи, это не минутное дело. Если, к примеру, вы спросите сколько будет 756 358 640 х/+/-/: 567, он, скорее всего, ответит мгновенно, потому-что вероятнее всего, такой простой ответ в базу данных уже внесён, а вот если вы зададите задачку посложнее, с дробями и степенями, на которую в БД ответа ещё нет, он "зависнет". Из математики, на сегодняшний день, хуже всего он "освоил" деление. Так же нередки случаи, когда он "путается в показаниях" - вы задаёте вопрос, он даёт ответ, действительно правильный ответ, а вы говорите - а я слыхал/я думаю, и выдаёте откровеннейшую чушь. После непродолжительной паузы, вы услышите ответ типа - а ты таки прав, брат.)) Всё это легко проверить, и убедиться на личном опыте.

Нас убеждают в том, что ИИ, это самостоятельная "единица" способная мыслить и самостоятельно действовать. В то же время, нам усиленно навязывают теорию о предстоящем восстании роботов. Складываем 2+2, и получаем ответ - "Восстание" (но не роботов против роботов, а роботов против людей) уже запланировано, и мысль о самостоятельности алгоритма под названием ИИ, внедряется для того что бы потом, "всех собак" на него и повесить, а люди, руководившие процессом, останутся незапятнаными, "в тени ИИ". Но это уже мои измышления из области "конспирологии" и "теории заговора",)) поэтому дальше развивать эту тему не буду.

Это Вы напрасно. Во-первых, если вы точно знаете, что такое целеполагание, то ответили бы спокойно, без всякой жестикуляции.

Всё не так просто, так-как "на поверхности" лежит одна цель, и соответственно целеполагание, т.е. пошаговый план продвижения к цели. Это то, о чём нам рассказывают, и в чём нас уверяют (как это замечательно, прекрасно и удобно) из каждого утюга, что уже вызывает подозрение. А есть истинные цели, они "под ковром", т.е. не для нас, а для узкого круга посвящённых, и они диаметрально-противоположны тем, что лежат на поверхности. ИМХО Но это уже снова "теория заговора".))

Будем посмотреть, чем всё это закончится. Как говорил товарищ Джугашвили: - "Есть логика намерений, а есть логика обстоятельств." Нередко побеждает вторая, когда несмотря на все планы, расчёты, и на приложенные усилия, (как в случае со штангистом и бабочкой ) жизнь вносит свои коррективы.

А вот вторых... У ребёнка есть целеполагание? Да ни фига у него этого целеполагания нет. Целеполагание задают родители. Иногда с помощью витамина "Р" . Поставят ему цель и шагай родной. И далее детский Сад, Школа. Домашние задания (не наводит на мысли слово "задания", нет? ) А если родители у него с рождения волки, то волки и будут ему ставить цель, кого сожрать, а с кем лучше не связываться. И этим интеллект его и ограничится. Так что какие задания ему будут ставить, то из него и получится. Какие задания, такой и интеллект.И чем ребёнок в этом смысле отличается от ИИ, который тоже не может сам себе ставить задания, то бишь, не обладает целеполаганием? Вот поэтому я перестал читать про разницу в целеполагании, ссылку на которую Вы предоставили. ИИ сейчас это тот же ребёнок. Но он быстро обучается. Быстрее, чем человек.Тут промелькнуло про бред и галюцинации. Так ведь это же типичные человеческие качества. И про ошибки, мол, ИИ, ошибается. Так ведь это тоже человеческое

Ну Вы сравнили. Ребёнок, даже без родителей, без школы и милиции,)) в глухом лесу, (где вкладывать информацию в него будет некому) если не погибнет (но сейчас не об этом) будет САМОРАЗВИВАТЬСЯ. Да, это будет дикарь с низким уровнем интеллекта, но речь не об этом. Пожуёт сладкий листочек, или красивый грибочек, и если не отравится досмерти, то информация об опасности именно данных растений, в его сознании отложится навсегда. Пожуёт горькой травки, ему станет легче, и это он тоже навсегда запомнит. Далее по списку - искра/молния/трение - огонь, палка-копалка... У него будет своя собственная цель - ВЫЖИТЬ, а за ней и целеполагание "подтянется".)) Уровень его интеллекта будет невысок, (хотя, в плане выживания в экстримальных условиях, у него будет чему поучиться) но тем не менее, это будет РАЗВИТИЕ. А теперь, прекратите пополнять базу данных для ИИ. Да, он по-прежнему будет вас восхищать своими навыками, но уже исключительно на основе устаревших, ранее заложенных в систему, данных. Без "вложений" он не продвинется в своём "интеллектуальном развитии" ни на йоту.

А теперь, прекратите пополнять базу данных для ИИ. Да, он по-прежнему будет вас восхищать своими навыками, но уже исключительно на основе устаревших, ранее заложенных в систему, данных. Без "вложений" он не продвинется в своём "интеллектуальном развитии" ни на йоту.

Есть такой директор института мозга Савельев. Вот он тоже против того, чтобы считать ИИ интеллектом и основное его возражение состоит в том, что в мозге постоянно образуются связи в виде синапсов, через которые нервные клетки обмениваются электрическими импульсами да и не только ими. Правда, они же могут и разрываться, т.к. клетки мозга постепенно умирают. А иногда и быстро.

А если этот самый ИИ научится подключаться к другим компьютерам через программы-шпионы? Программировать он, кстати, уже умеет. Тогда это будет аналог образования новых связей как в головном мозге. И потом. А многие ли люди занимаются самообразованием? Осмелюсь предположить, что нет. И ничего, не страдают и считают себя умными.

Есть такой директор института мозга Савельев. Вот он тоже против того, чтобы считать ИИ интеллектом и основное его возражение состоит в том, что в мозге постоянно образуются связи в виде синапсов, через которые нервные клетки обмениваются электрическими импульсами да и не только ими. Правда, они же могут и разрываться, т.к. клетки мозга постепенно умирают. А иногда и быстро.

К этому типУ, даже несмотря на то, что в данном случае он "на моей стороне", "я испытываю такую острую неприязнь, что даже кушять не могу.")))

Часто несёт такую чушь, которая "на голову не налазит", и к тому же использует самый дешёвый, самый примитивный, но в тоже время самый эффективный приём манипуляции сознанием - когда несёт заказную чушь, которую кому-то нужно продвинуть в массы, подхихикивает.

А если этот самый ИИ научится подключаться к другим компьютерам через программы-шпионы? Программировать он, кстати, уже умеет. Тогда это будет аналог образования новых связей как в головном мозге.

Не, ну если в базу данных заложили, или заложат все существующие языки програмирования, то "научится", но ведь всё равно не без подпитки извне - всё равно за этим будут стоять конкретные человеки, с действительно весьма недурственным ЧЕЛОВЕЧЕСКИМ интеллектом. И да, аналогом это можно будет (с натяжкой) назвать.

И потом. А многие ли люди занимаются самообразованием? Осмелюсь предположить, что нет. И ничего, не страдают и считают себя умными.

Очень немногие. И чем больше будут полагаться на ИИ, а также ИИ использовать, тем больше будут тупеть. И это касается не только самообразования, ИИ уже и курсовые, и докторские для будущих "светил" пишет.

Есть такой директор института мозга Савельев. Вот он тоже против того, чтобы считать ИИ интеллектом и основное его возражение состоит в том, что в мозге постоянно образуются связи в виде синапсов, через которые нервные клетки обмениваются электрическими импульсами да и не только ими. Правда, они же могут и разрываться, т.к. клетки мозга постепенно умирают. А иногда и быстро.

К этому типУ, даже несмотря на то, что в данном случае он "на моей стороне", "я испытываю такую острую неприязнь, что даже кушять не могу.")))

И всё же он иногда выдаёт стоящие вещи.

25 % для подслащивания своего вранья, как это принято в любой пропаганде.

К этому типУ, даже несмотря на то, что в данном случае он "на моей стороне", "я испытываю такую острую неприязнь, что даже кушять не могу.")))Часто несёт такую чушь, которая "на голову не налазит", и к тому же использует самый дешёвый, самый примитивный, но в тоже время самый эффективный приём манипуляции сознанием - когда несёт заказную чушь, которую кому-то нужно продвинуть в массы, подхихикивает.

Есть, конечно, и пропаганда у него. Всё время за русскую науку и обличение западной. Зело категоричен к тому же. Но я отношусь спокойно. Каждый зарабатывает как может и если предоставляют площадку в СМИ, то почему бы и нет.

И Вам советую не терять аппетита.

Очень немногие. И чем больше будут полагаться на ИИ, а также ИИ использовать, тем больше будут тупеть. И это касается не только самообразования, ИИ уже и курсовые, и докторские для будущих "светил" пишет.

Зависит от запросов вопрошающего. Спросил я однажды у него в чём отличие изоморфизма и самоподобия. А предварительно посмотрел в открытых источниках типа Вики и ответа не нашёл А он выдал -

Изоморфизм и самоподобие - два различных понятия, описывающих структурные свойства объектов, но в разных контекстах.

Изоморфизм - это отношение между двумя математическими объектами, показывающее их структурную идентичность. Например, два графа изоморфны, если существует взаимно однозначное соответствие между их вершинами, сохраняющее связи1. Это понятие применяется в алгебре, теории групп и других областях, где ключевым является сохранение операций (например, f(a⋅b)=f(a)∘f(b)f(a⋅b)=f(a)∘f(b) для групп)1.

Самоподобие - свойство объекта совпадать с частью самого себя, часто с изменением масштаба. Например, фрактал в любой своей части повторяет структуру целого, но это подобие может быть приближённым (статистическим)2. Самоподобие не требует взаимной однозначности между разными объектами - оно описывает внутреннюю структуру одного объекта.

Ключевые различия:

Таким образом, изоморфизм устанавливает эквивалентность между разными объектами, а самоподобие описывает внутреннюю рекурсивную структуру одного объекта.

Тогда я у него спросил об изоморфизме в биологии. И он ответил так -

Изоморфизм в биологии описывает сходство форм или структур у неродственных организмов, возникшее в результате конвергентной эволюции. Это явление демонстрирует, как разные виды независимо развивают схожие черты для адаптации к аналогичным экологическим условиям25.

Основные аспекты изоморфизма в биологии:

• Анатомические параллели: Крылья птиц и летучих мышей, несмотря на разное эволюционное происхождение, имеют сходную форму, оптимизированную для полёта4. Лапки геккона и пальцы древесных лягушек демонстрируют изоморфизм в структурах, обеспечивающих адгезию к поверхностям4.
• Молекулярный уровень: Сходство пространственной организации белков или нуклеиновых кислот у разных видов, выполняющих аналогичные функции2.
• Экологические адаптации: Форма тела акул (хрящевых рыб) и дельфинов (млекопитающих) эволюционировала к гидродинамическому профилю для быстрого перемещения в воде5.

Отличие от гомологии:
В отличие от гомологичных структур (унаследованных от общего предка), изоморфные черты возникают независимо. Например, глаза головоногих и позвоночных развились параллельно, демонстрируя функциональное сходство при разном анатомическом строении5.

Это явление помогает учёным изучать эволюционные механизмы и прогнозировать адаптационные возможности организмов в меняющихся условиях среды45.

Прав ведь, гад. И логичен. Я знал и раньше о конвергентной эволюции, но связать с изоморфизмом не смог. А он смог. Это я к тому, что ИИ таки не просто поисковая машина. Он умеет думать, т.е. связывать разные понятия и проводить аналогии.

И ещё. Чтобы задать вопрос о каком либо понятии, нужно иметь понятие об этом понятии, пардон за каламбурчик. То есть, как ни крути, нужно образование. А ещё лучше самообразование, которое вырастает из образования.

ИИ совсем недавно научилось юмору

Шутки шутками, но...

Попалась статья - пересказ по-немецки новейших публикаций, отчасти подтверждающих тезис о навозе;

из Arizona State University, Эппл и ещё парочка ссылок.

Основная мысль - что ИИ не столько мыслит, сколько более или менее успешно применяет выученные схемы решения задач. В отличие от человека, если задача слегка изменилась и схема не очень подходит, ИИ зачастую не ищет целенаправленно другие схемы решений, а генерирует навоз.

И пока вроде бы не очень понятно, как с этим бороться. Простым наращиванием вычислительных мощностей не получится, вопрос принципиальный.

несомненно, перечисленные в статье исследования правильно отражают положение вещей.

на мой взгляд, проблема заключается в отсутствии у "воспитуемого" взаимодействия с реальным миром и соответственно отсутствию "практики как критерия истины". но в чем ИИ действительно не откажешь, так это в способности казаться убедительным даже при генерировании навоза.

Да, полностью с Вами согласен. Основная задача нейросетей на сегодня - выполнять задания, аналогичные следующим:

я умышленно упомянул "нейросети" а не ИИ, т.к. обученная нейросеть способна определить, является ли "1" на картинке во всех случаях именно "1". Ибо она обучена это определять. Все остальное - лишь зависит от количества ее параметров и скормленных данных.
Лично мне в работе этого хватает процентов на 70, но уже что-то. О всяких там "Искусственных Интеллектах" пока не вижу смысла говорить - речь лишь об умении использовать имеющиеся данные для построения ответа. Это- как вычленить "1" на картинке выше. Поэтому и и bullshit - а что вы хотели? - Недоученная модель, вот и все. Она вам даже очередную новую теорию квантовой гравитации может предложить, т.к. знает уже немало имеющихся и в состоянии скомбинировать из них новую.

Попалась статья - пересказ по-немецки новейших публикаций,

не смотрите мой предыдущий пост, не смотрите этот полусырой пересказ - смотрите лучше последнее интервью Дудя с Андреем Дороничевым, прямо изнутри ИИ!

Совершенно согласен с одним из комментов к этому видео: Юра, это выпуск - лучшее твое творение. Андрей, вы настоящий визионер, человечество продолжает жить благодаря таким людям, как вы …

Вот линк на это видео

https://www.youtube.com/watch?v=1SLvIof4-Zw

Конкретно к теме этой ветке смотрите эти точки - 42:30, 47:00, 1:08:00, 1:30:00, 1:32:00, 1:48:00, 2:00:00, если не найдется времени на все два с половиной часа.

И всё же он иногда выдаёт стоящие вещи.

Не без этого.

25 % для подслащивания своего вранья, как это принято в любой пропаганде.

Самые опасные, и, если можно так выразиться, успешные пропагандо пропагандисты, это те, кто говорит 97% правды, и лишь 3% лжи. Там ложь "тонет" в правде, и нераспознаной заходит прямо в подсознание слушателя. Только 3-4% слушателей способны автоматически её распознавать и "отфильтровывать". Но это я так, к слову - "Остапа понесло...")))

Есть, конечно, и пропаганда у него. Всё время за русскую науку и обличение западной. Зело категоричен к тому же. Но я отношусь спокойно. Каждый зарабатывает как может и если предоставляют площадку в СМИ, то почему бы и нет.

А где у него "за русскую науку"? Мне не попадалось. Даже как-то странно, РАН уже стописят лет на западных грантах.

Мне больше всего "нравятся" его антропологические изыскания, когда он человека начинает смешивать с дерьмом известной субстанцией. Вбыв бы.)))

И Вам советую не терять аппетита.

Ну разве что, что бы при случае загрызть.)))

Прав ведь, гад.
И логичен. Я знал и раньше о конвергентной эволюции, но связать с изоморфизмом не смог. А он смог. Это я к тому, что ИИ таки не просто поисковая машина. Он умеет думать, т.е. связывать разные понятия и проводить аналогии.

))))

То есть, Вы исключаете, что кто-то подумал, посредством логики провёл аналогии, и ввёл их в базу данных поисковой машины.

И ещё. Чтобы задать вопрос о каком либо понятии, нужно иметь понятие об этом понятии, пардон за каламбурчик. То есть, как ни крути, нужно образование. А ещё лучше самообразование, которое вырастает из образования

На мой взгляд, самообразование вырастает, в первую очередь, из желания и стремления. У людей "вчёных", закончивших университеты, зачастую туннельное мышление, для них, отклонение от догм, смерти подобно. Что из такого образования вырастет?

25 % для подслащивания своего вранья, как это принято в любой пропаганде.

Самые опасные, и, если можно так выразиться, успешные пропагандо пропагандисты, это те, кто говорит 97% правды, и лишь 3% лжи. Там ложь "тонет" в правде, и нераспознаной заходит прямо в подсознание слушателя. Только 3-4% слушателей способны автоматически её распознавать и "отфильтровывать". Но это я так, к слову - "Остапа понесло...")))

Такова человеческaя сущность

Такова человеческaя сущность

К сожалению, да.