существует 70-процентная вероятность того, что ИИ уничтожит человечество

С чем мы приходим к возможному разрешению парадокса Ферми - парадокс «великого молчания» Вселенной.

До сих пор я тешил себя надеждой, что мы находимся в зоопарке, причем нас видно всем желающим, а мы не видим дальше собственного носа.

Поэтому старался вести себя подобающе

Помимо буйнопомешанных политиков с ядрёным чемоданчиком появилась другая реальная опасность, сверх-ИИ, гораздо менее прозрачная.

Возвращаясь к теме ветки:

никто не ждёт от чемпиона мира по фигурному катанию, что он ещё и в шашки лучше всех играть будет. Гениальность ИИ проявляется в распознавании серийных картинок (например рака кожи), создании/расшифровке протеинов (цитата - AlphaFord получил даже нобелевскую премию по биологии), игре го и прочих технических и около областях. С языком, искусством, правом и многими другими, чисто человеческими заморочками у этого "сухаря" пока (!) проблемки, навоз выдает часто.

Так точно дьяк, в приказах поседелый,
Спокойно зрит на правых и виновных,
Добру и злу внимая равнодушно,

Не ведая ни жалости, ни гнева...

В той же статье Die Zeit говорится, что может произойти, если до 2030 года ИИ не достигнет намеченных рубежей, не начнёт например программировать само себя. Тогда скорее всего инвестиции в ИИ начнут падать и его бурное сегодняшнее развитие может войти в более спокойное русло. Тогда можно надеяться на более осмысленное, более безопасное освоение этого ресурса.

... предсказывал Курцвейл...

Спасибо за развернутый пост, в особенности за упоминание Курцвейля!

Только от Вас о нём узнал, а тут как раз интервью с ним, несколько в противовес к Кокотайло. Не только более оптимистичное, но и гораздо интереснее,.

И кстати о теме ветки - в этом интервью говорится, что ИИ совсем недавно научилось юмору.

Я тут же в ChatGPT: Хочу проверить твою созидательность и способность шутить. Сочини короткий анекдот про ученых, впервые увидевших обезьян в библиотеке.

ChatGPT сказал:

Ученые впервые увидели обезьян в библиотеке. Один говорит:

— Потрясающе! Они тянутся к знаниям!
Второй:
— Да, особенно к разделу "Как украсть банан и остаться безнаказанным".
Третий смотрит на бардак и добавляет:
— Кажется, они ищут Дарвина... чтобы пожаловаться!

Не 128%, но здорово же для начала! По крайней мере в каждой фразе есть хохма, с ходу. Абсолютно не булшит!

И с третьей попытки заменил последнюю фразу на

— Один написал на полке: «Эволюция — это клевета!» и убегает с "Винни-Пухом".

А это уже "бабий аргумент" - метод, применяемый в дискусиях теми, кому по делу сказать нечего, а оппонента, тем не менее, "запинать" нужно.

Это Вы напрасно. Во-первых, если вы точно знаете, что такое целеполагание, то ответили бы спокойно, без всякой жестикуляции. А вот вторых... У ребёнка есть целеполагание? Да ни фига у него этого целеполагания нет. Целеполагание задают родители. Иногда с помощью витамина "Р" . Поставят ему цель и шагай родной. И далее детский Сад, Школа. Домашние задания (не наводит на мысли слово "задания", нет? ) А если родители у него с рождения волки, то волки и будут ему ставить цель, кого сожрать, а с кем лучше не связываться. И этим интеллект его и ограничится. Так что какие задания ему будут ставить, то из него и получится. Какие задания, такой и интеллект.

И чем ребёнок в этом смысле отличается от ИИ, который тоже не может сам себе ставить задания, то бишь, не обладает целеполаганием? Вот поэтому я перестал читать про разницу в целеполагании, ссылку на которую Вы предоставили. ИИ сейчас это тот же ребёнок. Но он быстро обучается. Быстрее, чем человек.

Тут промелькнуло про бред и галюцинации. Так ведь это же типичные человеческие качества. И про ошибки, мол, ИИ, ошибается. Так ведь это тоже человеческое - errare humanum est

н.п.

Как прошёл первый в мире разговор между двумя ИИ -

https://www.facebook.com/reel/1284473346599584

Булшит...