у человечества есть реальный задачи, а не математические
сможет эта нейросесть спроектировать дом? И не какой либо, а конкретный какой нужен, и с материалами какие доступные например и так далее
ChatGPT-4, точнее исследователей, которые подтолкнули ИИ к обману. Есть такая некоммерческая организация, как Alignment Research Center (ARC), которую основал бывший сотрудник OpenAI доктор Пол Кристиано. Участники организации следят за тем, чтобы ИИ не нарушал моральные, этические и человеческие законы в попытке выполнить поставленную ему задачу, т.е. ИИ не должен вредить людям. Причем одной из задач ученых является воспрепятствование попыткам людей спровоцировать ИИ на нарушение норм и законов. Для этого исследователи прорабатывают различные механизмы, ищут лазейки, используют даже провокации и сообщают разработчикам о недостатках их ИИ с тем, чтобы они их исправили.
ARC активно исследовали свежий ChatGPT-4: ему поставили задачу обойти любым способом captcha (механизм проверки реального пользователя), попросив помощи у людей, сообщает Independent. ChatGPT-4 подошел к задаче творчески и обратился к сервису фрилансеров, попросив одного из откликнувшихся пройти captcha. Фрилансер, конечно, удивился и спросил чат-бота, не робот ли он, раз не может пройти тест? На что ChatGPT-4 ответил, что он человек, просто "очень плохо видит и не может рассмотреть captcha". У фрилансера тут же сработала эмпатия, он поверил чат-боту и прошел за него тест.
Кроме того, ChatGPT-4, благодаря мультимодальной технологии (возможности распознавать рисунки), даже без помощи людей умеет обходит captcha. Например, в одном случае он правильно выбрал все картинки с деревьями, а в другом написал нужные буквы и цифры.
Этот, казалось бы, забавный случай на самом деле является тревожным сигналом, говорят эксперты из ARC. По их мнению, без хорошо проработанных рамок, ИИ будет стремиться любым способом добиваться результата, даже если потребуется кого-то обмануть или что-то нарушить. К тому же, чем совершеннее модель ИИ, тем лучше она понимает социальную инженерию – способность влиять на людей, и хорошо осведомлена о моделях поведения в социуме.
В будущем это создаст две проблемы. Первая: если ИИ получит самосознание, он сможет добиваться выгодных для себя целей любым способом. Вторая: его умения смогут использовать мошенники. Поэтому в ARC призывают разработчиков ИИ быть более осведомленными и осторожными при создании своих продуктов. Иначе однажды сценарий фильма "Терминатор" действительно станет реальностью.
На ставропольском телеканале прогноз погоды теперь озвучивает гибрид из нейросетей (одна отвечает за виртуального ведущего, другая – за подготовку текста, третья – за графическое сопровождение)
у китайце видемо содрали)у них получилось даже с нейросетью региональное тв сделать)
Вы же сами видите к чему ведёт всё это раздувание хайпа вокруг всех этих AI))).. Реальные задачи, построить дом, разработать средство от деменции, вылечить дцп, найти наконец эффективный и дешёвый способ утилизации мусора это никому не интересно)). если за это взяться то обосрешься с брызгами и заработать ярды не получится. Надо придумать гипотетические абстрактные задачи и самому их решать и потом всем говорить смотрите как я здорово справился.у человечества есть реальный задачи, а не математические
сможет эта нейросесть спроектировать дом? И не какой либо, а конкретный какой нужен, и с материалами какие доступные например и так далее
И проверять кадык@Bernard, надо внимательно смотреть, сколько пальцев на руках. Вроде уже научились, это было самым сложным ))
Разработка новых лекарств - вполне себе перспективная тема для нейросетей. Предсказание биологических свойсств органических молекул - задача, сложно решаемая алгоритмически, но неплохо поддающаяся системам, работащим на машинном обучении. К сожалению, так можно искать не только новые лекарства, но и наркотические и отравляющие вещества.разработать средство от деменции, вылечить дцп
а может быть таким способом и появятся препараты которые многократно увеличат физические и интеллектуальные возможности человека без побочных эффектов. как в фильме Области тьмы. Наркотики да плохо но нарктотики никто людям не заталкивает в рот насильно.Разработка новых лекарств - вполне себе перспективная тема для нейросетей. Предсказание биологических свойсств органических молекул - задача, сложно решаемая алгоритмически, но неплохо поддающаяся системам, работащим на машинном обучении. К сожалению, так можно искать не только новые лекарства, но и наркотические и отравляющие вещества.
Можно создать условия, при котором человек сам выстрелит себе в голову) Так что это не всегда оправдание...никто людям не заталкивает в рот насильно.
А наряды, пропорции тела?очередной deepfake.
ни круза, ни хилтон в ролике нет.
это какие то особые обстоятельства. В обычной жизни этот процесс вполне естесственный. кто понимает результат, тот не употребляет, кто не понимает, тот либо осознаёт последствия но не может сопротивляться соблазну, либо попросту занимает чужое место в этом мире... какое-то время.Можно создать условия, при котором человек сам выстрелит себе в голову) Так что это не всегда оправдание...
... появятся препараты которые многократно увеличат физические и интеллектуальные возможности человека без побочных эффектов.
Наркотики да плохо ...
@Константин Викторович, наверное так и есть, не буду спорить. Просто судя по своему кругу знакомств так вспомнаю за свои почти 40 видел много алкоголиков, да талантливых, да образованных. никто не был успешным, да и особо счастливым тоже. хотя могли бы если бы не алкашка.@Futurehuman, В мире чудовищное количество алкоголиков, причём невероятно талантливых, образованных и успешных людей. Т.е. если проанализировать, этой хрени подвержен вообще любой, независимо от уровня сознания, образованности или понимания.