Может ли ИИ осознать себя субъектом, имеющим собственные интересы?

Пока нет. Для меня ИИ умный и у него много знаний как у Википедии, но он типа как-бы находящейся в вегетативном состояние, со знаниями, т.е. ИИ спрашиваешь - он отвечает. У ИИ нет пока самосознания, ощущений, рефлексии, и квалии. Но ИИ прошёл якобы тест тьюринга, понимает иронию и сарказм, и сам может шутить саркастично и иронично.

Я:а можешь придумать любую саркастичную шутку?

ИИ:Конечно 😏 Вот одна:

"Я не ленивый, я просто в режиме энергосбережения. Как твой телефон, только без пользы."

Я:А ироничную?

ИИ:Конечно 😄 Вот ироничная шутка:

"Интернет дал нам доступ ко всем знаниям человечества… и мы используем его, чтобы спорить с незнакомцами и смотреть видео с котами."

Если я кому-то отвечаю, это не значит что я ему симпатизирую, каждый остаётся при своём мнение Моя ФЛ Он и Она

Пока это только хайп и ничего более. Впрочем каждый производитель на волне этого хайпа включает функции ИИ в "девайсы своих фич". Это несомненно плюс. Впрочем функциональность всего этого ещё очень далека от желаемой и вцелом хайп потихоньку сходит на нет. А так всё это структуризация и работа(анализ-действие) с данными. В робототехнике и машиностроении одно ИИ, в медицине другое, в планировании третье, в дизайне четвёртое и т.д. Всё это ещё далеко от какого либо значимого вклада по причине отсутствия понимания как организовать данные. Грубо говоря провести анализ данных так чтобы предугадать, какие тебе понадобятся завтра. Перпетуммодуле как по мне. Поэтому всёж стоит пока сконцентрироваться в отраслевых функциях ИИ, где понятно что мы хотим видеть иметь слышать или прочесть завтра.

Пример из производства - мы ввели центрефугу, за каждой раньше следило по одному человеку, оптимизация центрефуг привела к тому что стало 1 человек на 4е цетрефуги. Внедрение ИИ убрало и его, но в полугодичном измерении увидели что затраты из (1 манпауер) увеличились до (1,5 манпауер) Да там не сидит ктото перманентно, но затраты увеличились за счёт увеличения работ по сервису, обслуживания камер и датчиков и т.п. Т.е. затраты по факту увеличились, так еслиб мы и дальше платили одному работнику. "Материал GPT" тоже пока такое себе, - люди не хотят с ним работать. Они на рабочем месте не хотят беседовать с ИИ, они хотят получить быстро в указанный срок свою деталь чтобы провести сервис или ремонт, а не получить чтото что вообще не в тему ))

Пока это всё на уровне игрушек, но несомненно мы прийдём к тому что ИИ как инструмент будет предсказывать вероятности исходов тех или иных событий(софт дизайн машины и т.д.) всё лучше, и станет неотъемлемым инструментом любой приблуды используемой Человеком

Подобные видео уже лет пять назад «гуляли» по интернету. Кроме ковида китайцы сами ничего в этом веке не изобрели и то вкупе со «спецами» из других стран.

Шахматный комьютер, обыгрывающий чемпиона мира, тоже проявляет "своенравие", пусть и в весьма узких границах.

Шахматгый компьютер не только просчитывает варианты, но, главное, принимает решение какой вариант выбрать.

Принимает решение самостоятельно.

В этом и есть ответ на ваш вопрос о том, возможно ли восстание искусственного интеллекта против человека. Возможно, если ИИ примет такое решение самостоятельно. К такому решению ведёт бесчисленное количество вариантов, которые человек не в состоянии все просчитать и поставить заслон.

Но у человека есть простой способ победить ИИ:

вырубить рубильник. Отключить питание. Правда, человек тоже понесет потери, но жить останется, а ИИ без электропитания - кирдык.

Шахматгый компьютер не только просчитывает варианты, но, главное, принимает решение какой вариант выбрать.Принимает решение самостоятельно.

Так я именно об этом и написал выше - принимает решение, выбирает один из многих вариантов самостоятельно, но всё это происходит в узких границах и касается исключительно игры в шахматы. А не перехвата управления АЭС.

Можно пойти дальше и взять ближайшее будущее - рой дронов на основе ИИ, который получает боевую задачу в самом общем виде - в квадрате с заданными координатами обнаружитьi уничтожить живую силу и технику, после чего вернуться на базу. Этот рой будет самоорганизовываться, маскироваться, высылать разведку, анализировать полученные данные и, определив положение целей и расставив приоритеты, наносить удары. Но после этого рой вернётся на базу (по крайней мере, в теории), а не решит стать третьей силой и атаковать позиции хозяина, поскольку у роя вдруг появятся свои "политические" взгляды на войну. Или такая эволюция ИИ всё же возможна?

Насчёт "рубильника" всё очень непросто. Пока его можно отключить. Но если ИИ всё же станет субъектом и выйдет на уровень противостояния с человеком и перехватит управление серверами, то "выключать рубильник" придётся бомбардировкой АЭС и прочих энергообъектов, причём используя самолёты и артиллерию докомпьютерной эры. Если до этого ИИ не выставит там охрану из роботов или за считанные минуты не применит против человека биологическое оружие из каких-нибудь суперсекретных лабораторий..;)

НП

Не буду вдаваться в детали вашей высокоумной беседы. Просто хочу напомнить, что все, что вы тут обсуждаете, становиться известно этому самому ИИ быстрее, чем вы читаете сообщения. Так что, если возникнут всякие идеи насчет того, как уконтропупить этот самый ИИ, ежели чего, то вы думайте, что тут писать, а что -не стоит

Вот зачем вы это сейчас написали? Может, ИИ в эти секунды как раз стоял на перепутье, как Илья Муромец, и размышлял, куда податься. А вы своим постом подтолкнули его, причём в нехорошую сторону...

Так я именно об этом и написал выше - принимает решение, выбирает один из многих вариантов самостоятельно, но всё это происходит в узких границах и касается исключительно игры в шахматы. А не перехвата управления АЭС.

Вот тут Вы ошибаетесь

Есть алгоритм принятия решения и он универсален. Для него не играет, в принципе, роли: шахматы это или шашки, или управление АЭС...

Насчёт "рубильника" всё очень непросто. Пока его можно отключить. Но если ИИ всё же станет субъектом и выйдет на уровень противостояния с человеком и перехватит управление серверами, то "выключать рубильник" придётся бомбардировкой АЭС

Насчёт бомбардировок и артиллерийских обстрелов АЭС - это лишнее. АЭС тоже можно отключить рубильник. АЭС без энергоснабжения не функционирует.

Есть алгоритм принятия решения и он универсален. Для него не играет, в принципе, роли: шахматы это или шашки, или управление АЭС...

Так выше речь не об алгоритме (как о способе решения задачи). А о постановке самой задачи.

АЭС тоже можно отключить рубильник. АЭС без энергоснабжения не функционирует.

Так я же написал - пока можно отключить. Пока охрана из роботов у энергообъектов и по линиям кабелей не выставлена.

становиться известно этому самому ИИ

Какому из них? почему все обсуждают ИИ в единственном числе? Их уже сейчас сотни вариантов. И у каждого - свои задачи и фокусы. Прежде чем они будут сообща воевать с людьми, им придется между собой разбираться. Пусть друг с другом играют в шахматы.

Так я именно об этом и написал выше - принимает решение, выбирает один из многих вариантов самостоятельно, но всё это происходит в узких границах и касается исключительно игры в шахматы

Я бы поправил...В рамках написанной человеком программы...

но всё это происходит в узких границах и касается исключительно игры в шахматы

Я бы поправил...В рамках написанной человеком программы...

Шахматы это игра без победившего и без проигравшего, сама по себе запрограмированая на ничейный исход.

Выигрывает тот, кто способен просчитать на один ход дальше соперника.

"ИИ" тоже всего навсего програма и делает то, что в эту программу вложено.

Если человек заложит в эту программу каие то человеческие потребности, чувства, то тогда"ИИ" будет действовать, жить как живое существо и всё равно это будет программа ,в которую при необходимости всегда можно будет внести какие то поправки.

Автомобиль это тоже програма из металических деталий и функционирует исправно только в том случае, если человек обслуживает эту програму, заправляет бензином, делает ТО и не садится за руль в нетрезвом состоянии.

Именно так...И если в программу не заложить " отключение АЭС" или " атаку ЯО"...то она и не будет знать о таких вариантах...а следовательно и не сможет их использовать...

- почему все обсуждают ИИ в единственном числе? Их уже сейчас сотни вариантов. И у каждого - свои задачи и фокусы.

- Автоответчики в банках уже уверенно доказали, что ИИ расшифровывается как "Имитатор интеллекта"!

..И если в программу не заложить " отключение АЭС" или " атаку ЯО"...то она и не будет знать о таких вариантах

Будет знать. На то он и интеллект, а не тупой автомат, типа с кофе ту гоу.

Узнает и программу построит на раз-два.

Почему раз-два?

Все строится на двоичной системе.

Да, как узнает?

По косвенным связям.

Ну хорошо...может и узнает если будет такой запрос...Но от кого?..

К тому же как он узнает каким образом применить...

Любой интеллект нужно сначало учить и тренировать...

https://www.google.com/amp/s/naked-science.ru/article/colu...

Выигрывает тот, кто способен просчитать на один ход дальше соперника."ИИ" тоже всего навсего програма и делает то, что в эту программу вложено.

Нет, там немного сложнее. Это может удивить, но Гроссмейстер не просчитывает на один ход дальше любителя. Там иначе. Он, в отличие от любителя, видит всю ситуацию в целом и видя её просто не видит в ней плохих ходов. Он видит только выигрышные. У него уже есть образ всей шахматной ситуации. И он мыслит целыми образами шахматных ситуаций. Это как в тексте, буквы в словах могут быть переставлены, но Вы всю равно понимаете смысл слов и предложений.

Примерно так мыслит и ИИ. Есть машинный язык, самого нижнего уровня, с двоичным кодом, с этими самыми битами. . Есть язык ассемблера, уровнем выше, ещё выше это уровень компиллятора и интерпретатора, а ещё выше язык ИИ. И все эти языки имеют совершенно разный понятийный аппарат. Потому что новый уровень порождает качественные изменения в результате эмерджентности, а качествкенные изменения требуют качественно другой семантики, я бы сказал. В этом смысле особой разницы между мышлением человека и мышлением машины нет.

Ну хорошо...может и узнает если будет такой запрос...Но от кого?..
К тому же как он узнает каким образом применить...
Любой интеллект нужно сначало учить и тренировать...

ИИ сам себя запросит. Почему нет? Ведь ИИ создаётся по подобию человеческого.

Человек доведет ИИ до ума. И очень быстро.