Получается что нужен контроль внутри жыпыты. Кому он в ответе определённые данные сказать может, а кому и нет.

Не хочу никого расстравивать, но контроль уже (относительно) давно главная тема в этой области, называется super alignment. Задача в том как более глупому агенту (человеку) заставить подчиняться и делать что говорят более умного агента (chatgpt). По сути это способ заставить более умную систему выдавать не то что соответствует запросу (правду), а то что ей задано хозяином. Самый простой пример это исключить матершину (хотя в данных она есть и по смыслу самый подходящий вариант), но на высоком уровне это самая обычная голимая цензура, т.е. министерство правды. Очевидно речь не о ключевых словах, а именно о ходе мыслей.

никогда не попадался проект

------

Возьми зип-файл с гитхаба.

прошу ответить на вопрос как это найти?

Очень просто. На каком языке программируете? Предположим питон.

Пишете на питоне программу "Hello World", а затем просите ИИ написать программу "Hello World" на питоне. Затем сравниваете и видите что всё стыбрено у вас

Хороший ИИ. Не зря деньги заплачены. )))

дописал я новый параметр конструктору, а мне Студия сама подсказку дала и написала присвоение этого параметра нужному полю

ну вот, ещё чуть чуть и разжижится твой мозг

Такая, функция была 20 лет назад в эклипсе.

Вот мне этого в принципе хватает. Чего посложнее - я лучше на Stackoverflow или где подобном спрошу. Там конечно много индусов, но и Джоны Скиты иногда заглядывают.

По идее всё "чувствительные" проекты должны строится по аналогичной схеме.

Совершенно верно. Но вот только если жёстко разделять проекты по разным LLM у тебя получится 10 туповатых ИИ вместо одного нормального. Это как дать ИИ прочитать по 20 страничек учебника в 20 моделей, вместо того, чтобы весь учебник в одну. И ожидать что он тебе сейчас поможет на экзамене.

Получается что нужен контроль внутри жыпыты. Кому он в ответе определённые данные сказать может, а кому и нет. Используя одну и ту же модель. И вроде как опенАИ мамой клянутся что такой контроль есть. Но вот гарантий давать - хренушки.

Кстати, (насколько я понял, сам я в этом проекте не участвовал) в одном эксперименте получилось что жыпыты грубо говоря игнорировал то, чему он обучился в тестовом проекте. Объяснили что маловат-с проект. Чтобы обученный на миллиардах строчек кода копилот начал выдавать что-то полезное и специфичное "доучившись" на проекте, нужны миллионы (разных) строчек кода.

Чёрт! Всё никак манажерская мечта об изживании всех программистов не может исполниться! Всё же придётся держать этих никчёмных созданий, чтобы они объясняли искуственному идиоту, как в их проекте что работает, и адаптировали ИИ-высеры, чтобы они хоть как-то функционировали... А может ну его наф эти секреты фирмы, и скормить весь код без ограничений? Всё же изживание ненавистных программистов того стоит.

Такая, функция была 20 лет назад в эклипсе.

Не... В 2004 по-моему не было. Я как раз тогда на эклипс с нетбинс переползал. Не помню когда у эклипса контент ассист большой рывок сделал. В 3.7 что ли...

В то время в каком-нибудь Борланд Билдере по С++ даже подсказок по стандартным библиотечным фукнциям не было. Писать код надо было с открытым бумажным справочником, а то, что что-то отсутствует или синтаксис не такой, выяснялось лишь после компиляции (никаких вам компиляций на лету).

Скорее вот так будет

При этом штатные программисты только тупеть будут, т.к. манагеры скажут им забить на самостоятельное проектирование архитектуры и классов, целиком довериться ИИ и полностью сосредоточиться на разгребании его высеров и их адаптации под текущий проект, чтобы они хоть как-то работали.

Но вот только если жёстко разделять проекты по разным LLM

опять мы немного в разные стороны смотрим.

Я говорил в данном случае о 2 вещах

1. Что "чувствительные" пользовательские данные не должны быть в общем проекте, тогда и ИИ не сможет получить к ним доступ и не нужны какие то дополнительные исследования.

Потому как в противном случае данные может утащить не только ИИ но и любой работник. Конечно, проколы будут и при таком подходе, но риск их гораздо меньше.

2. Разделять не проекты, а пользователей, то бишь внутри предприятия должно быть пофигу "обмен" проектами. А если не пофигу то идем к п.1 и чувствительные проекты никуда не подключаем.

Возьми зип-файл с гитхаба.

И дальше, где там эксклюзивные данные в одном файле?

И не надо выдирать слова из контекста

Хороший ИИ. Не зря деньги заплачены.

вообще то ожидалась несколько иная реакция

Не... В 2004 по-моему не было.

ну ладно, не 20, а 15

В 2010 уже помню в меню было Generate constructor using fields

А щас оно в Шарпе и не надо часто - record types. Тип в одну строку определяешь.

нашел еще одну ИИ игрушку - обещали прогу с нуля написать по описанию, а потом баги корригировать.

Как ни странно написали и как ни странно как то работает.

Но вылезли ограничения бесплатной версии. 10 вопросов каждые 5 часов вполне себе так нормально, можно жить. Однако есть ограничения на размер памяти для сессии.

Память выбрал, всё корректировка закончилась, начинай сначала, в платной версии ограничения побольше, но один фиг максимум размера памяти даст о себе знать.

Не огорчайтесь. Если из кучки дерьма не получается слепить конфетку, нужно просто взять кучку побольше и повозиться с ней подольше. Когда-нибудь точно что-то выйдет - дерзайте!

))

https://habr.com/ru/companies/alfa/articles/836472/

Слушайте, такое ощущение, что эти ИИ в принципе не будут никогда выдавать готовые рабочие решения. Вроде будет казаться, что они работают и прилично выглядят, но они всегда будут с изъянами, при этом не будет понятно, где и какие это изъяны, так что всегда будет требоваться тотальная проверка. Это типа как на собесах некоторые задают вопросы "мы тут говнокод написали - найдите 5 ошибок и исправьте их", только хуже, т.к. что, где и сколько исправить не будет ясно изначально. А программисты в фирмах, где будут вовсю налегать на ИИ, будут тупеть и превращаться в искателей этих изъянов вместо того, чтобы практиковаться в коде и архитектуре. Раньше вы разбирались в чужом говнокоде, но что-то и сами писали. Теперь будет только говнокод.

Не огорчайтесь.

никаких огорчений, просто делюсь впечатлениями. Результатом даже первичной генерации весьма доволен. Вот узнал, что nint появился

Тут важно найти область применения.

Удобрения.

Ваша софтовая контора производит удобрения?

А ведь на ИИ даже нельзя наорать, лишить премии или сказать ему "иди читай эти мануалы!". Он вас проигнорит. Менеджеры не любят такой подход.

Кроме создания скетчей и набросков, вижу ещё плюс ИИ в возможности генерации удобрений в промышленных масштабах. Раньше для этого требовались армии хоть и дешёвых, но специалистов. А теперь можно генерить одноразовые продукты интеллекта "на выброс" с большой скоростью и в больших количествах.

"вместо написания кода программисты изучают, как правильно составить запрос к нейронке, чтобы она выдала похожий на правду результат. А потом программист должен этот результат как-то валидировать, потому что косяк в коде, который написала нейронка, это косяк программиста, который этот код заюзал. Ну а потом нужно еще и баг отловить в этом коде, потому что нейронка не писала весь код. А там тесты еще написать (тоже нейронкой, разумеется)... В общем, дел много.

Короче, хайп вокруг отдельных нейронок и ИИ в целом == хайп вокруг блокчейна/крипты/нфт. Очень много шума из ничего. Пройдет время и инструмент начнет использоваться по назначению. Пока этот инструмент хорошо справляется с выкачиванием денег инвесторов"