Опять про AI: что-то пошло не по предсказаниям
- Автор темы Pavel Fomitchov
- Дата начала
Далее у вас пойдут доказательства основанные на мистике. Далее будет бездоказательный пример какого-нибудь родственника. Далее делается однозначное заключение о системе целом. Я тоже знаю этот учебник - "Альтернативная история" под редакцией одного доктора. Ну, ок:
Т.е. - давайте будем строиться, развиваться, прогрессировать... давайте... так, что нам для этого нужно... а давайте построим коммунизм... а зачем?... а это нам будем мешать, а мы, вопреки, будем достигать задуманное... да! точно! круто придумано! отличный план и главное, логичный)
Перед тем, как за руль сесть, тоже нужно пол литра принять. Ну чтобы "вопреки")
Нет никакого "культурного кода", что это ещё такое. Люди живут так, как того требуют обстоятельства, в первую очередь экономические, а не по мифическим законам "совести", "крови" и чёрт знает чего ещё. Да и осторожней с культурными кодами и "кровью" - такие разговоры всегда плохо заканчивается.
Угу. Застроим страну заводами и будем там работать... а может разработаем, там, меры и правила безопасности всякие? обеспечим контроль над их соблюдением? .. да ну... к чёрту... это для слабаков... кто первый руку в станок сунет, тот стахановец!
Чем ваш отец занимался? Говорите, что секретно, т.е. не знаете всех обстоятельств, но приводите это в пример.
Кто-то, что-то протаскивает через госаппарат, жертвует своим здоровьем, для чего? Для страны? Для блага других людей? Значит это коммунист. Но вы же сами писали, что они всерьёз это не воспринимали, это была игра, у них было формальное отношение... И вдруг откуда-то такое геройство... Что-то здесь не сходится... или снова "вопреки"?)
И кстати - если кто-то, что-то делал, это не значит, что это делали все.
Не пойдут. В мистике вы просто не разбираетесь, потому нет смысла. Да и не место тут. Вы полит. дискуссии разжигаете, а мне потом прилетает от Зерокула ))
Да, сферические люди в ваккууме так и живут, без рода-племени, без истории, без родителей, без воспитания . Точно подмечено.
Он сам немного рассказывал. Он был начальником отдела в оборонном НИИ, там все были коммунистами, тогда без этого просто невозможно было иметь допуск. Начальником просто номинальным, работали все наравне, ему приходилось за всех на партсобраниях отсиживаться только ). Говорил, что их группа сделала один из роботов, который работал в Чернобыле. Причем продержался там очень долго, а вся иностранная техника сдохла сразу. Говорил, что занимались саперными роботами по профилю НИИ, чтобы обезвреживать неразорвавшиеся боеприпасы. Один его знакомый потом как-то сказал, что они работали с бериллием, который ядовитый, но тогда об этом никто не парился. Из его группы никто до 60 не дожил.
Последнее редактирование:
В мистике не разбираюсь - нельзя разбираться в том, чего нет.
Никакой политики, т.к. запрещено правилами форума. Разговор на сугубо исторические темы) Разжигать ничего не стараюсь, но расставить всё по своим местам, предпочитаю. Если, что вдруг - валите всё на меня)
Не говорил, что люди "сферическо-вакуумные", наоборот.
Просто странные выводы вы делаете из рассказов своего отца. К его словам претензий, как-то не возникает, вроде всё понятно, что к чему.
Никакой политики, т.к. запрещено правилами форума. Разговор на сугубо исторические темы) Разжигать ничего не стараюсь, но расставить всё по своим местам, предпочитаю. Если, что вдруг - валите всё на меня)
Не говорил, что люди "сферическо-вакуумные", наоборот.
Просто странные выводы вы делаете из рассказов своего отца. К его словам претензий, как-то не возникает, вроде всё понятно, что к чему.
Я же вам вкратце донес только основную информацию чем он занимался. А отношение его и его друзей к коммунизму - это уже другой вопрос, о чем они разговаривали в почти семейном кругу друзей. Тут не выводы, тут глубже. Я в этой атмосфере рос с малолетства, все впитывал на лету. Да и у всех вокруг то же самое было, октябрятство, комсомольство, чуть в партию не угодил в армии, слава Богу пронесло ) С детства нас старшее поколение учило, как жить в СССР, сформировался я полноценным советским человеком. В общем, могу иметь суждения по теме. )
>Люди живут так, как того требуют обстоятельства
-- Чушь. В идентичных обстоятельствах кто-то шёл в полицаи, а кто-то с ними бороться.
>Это все было сделано и построено не благодаря коммунизму, а вопреки.
-- Для особо доверчивых к пропаганде КП - могу поискать вырезку из газеты 50-х годов, статья называлась:
Кибернетика - продажная девка империализма.
А вообще - предлагаю на этом закончить. Всё равно каждый останется на своём. Причины, думаю, объяснять не надо?...
-- Чушь. В идентичных обстоятельствах кто-то шёл в полицаи, а кто-то с ними бороться.
>Это все было сделано и построено не благодаря коммунизму, а вопреки.
-- Для особо доверчивых к пропаганде КП - могу поискать вырезку из газеты 50-х годов, статья называлась:
Кибернетика - продажная девка империализма.
А вообще - предлагаю на этом закончить. Всё равно каждый останется на своём. Причины, думаю, объяснять не надо?...
Случилось как-то Трурлю построить машину для счета, которая оказалась способной к одному-единственному действию,
а именно: умножала два на два, да и то иногда при этом ошибалась. (с)
Скажем так, полезно иной раз просто знать, что другие взгляды на основные вопросы существуют. Со временем многое выяснится само. А так да, лишние перепалки ни к чему.
ChatGPT провалил тест на ручник
Сегодня мы повсеместно читаем оды т.н. «искусственному интеллекту» под которым почти неизменно и безальтернативно предлагается понимать ChatGPT. Сам ChatGPT называет себя так, если его спросить об...
habr.com
Интересно, а кто в голопузом детстве его непроваливал?))
ChatGPT провалил тест на ручник
Сегодня мы повсеместно читаем оды т.н. «искусственному интеллекту» под которым почти неизменно и безальтернативно предлагается понимать ChatGPT. Сам ChatGPT называет себя так, если его спросить об...
Что называется, хоть у кого то мозг заработал. 
https://www.ixbt.com/news/2023/03/2...inimum-na-polgoda-ostanovit-obuchenie-ii.html
https://www.ixbt.com/news/2023/03/2...inimum-na-polgoda-ostanovit-obuchenie-ii.html
Думаю боятся они больше за свои инвестиции и бизнес, чем за безопасность каких-то людей.Что называется, хоть у кого то мозг заработал.
https://www.ixbt.com/news/2023/03/2...inimum-na-polgoda-ostanovit-obuchenie-ii.html
Почему мракобесие?))Пофиг, хоть так тормознуть это мракобесие.
Ничего не меняется, тысячи лет страх перед новым и неизвестным всегда вызывает у людей ужас. Но при этом, кроме как на психическое состояние современников и объем болтовни, больше ни на что не влияет. Прогресс как шел, так и будет идти. А бороться с часовыми стрелками - так себе занятие для самоуспокоения.
ChatGPT провалил тест на ручник
Сегодня мы повсеместно читаем оды т.н. «искусственному интеллекту» под которым почти неизменно и безальтернативно предлагается понимать ChatGPT. Сам ChatGPT называет себя так, если его спросить об...
Я:
Какого цвета стоп-кран на лодке с вёслами?
ChatGPT:
Стоп-кран на лодке с вёслами обычно имеет ярко-красный цвет, что обеспечивает высокую видимость на фоне воды и помогает быстро идентифицировать его в экстренных ситуациях. Однако следует отметить, что дизайн и расположение стоп-крана на лодке может различаться в зависимости от ее типа и модели, а также от производителя. В любом случае, стоп-кран на лодке с вёслами предназначен для регулирования скорости и остановки движения, а также для обеспечения безопасности пассажиров и экипажа.
Какого цвета стоп-кран на лодке с вёслами?
ChatGPT:
Стоп-кран на лодке с вёслами обычно имеет ярко-красный цвет, что обеспечивает высокую видимость на фоне воды и помогает быстро идентифицировать его в экстренных ситуациях. Однако следует отметить, что дизайн и расположение стоп-крана на лодке может различаться в зависимости от ее типа и модели, а также от производителя. В любом случае, стоп-кран на лодке с вёслами предназначен для регулирования скорости и остановки движения, а также для обеспечения безопасности пассажиров и экипажа.
@Andrew_S., Что интересно — в комментах от версии 4 получали очень адекватные ответы, где объясняется различие между стоп-кранами самолёта и поезда и т.п.
проблема в непредсказуемости. в алгоритме гугль переводчика стали использовать ИИ и начались проблемы. иногда он достаточно простые и однозначные фразы начинает переводить совершенно криво. причем делает это по разному в зависимости "от контекста". и это совсем не хорошо.
вообще все ожидают от Искусственного Интеллекта, то что система начнет думать и решать какие то задачи. а пока что получился только продвинутый автоответчик.
вообще все ожидают от Искусственного Интеллекта, то что система начнет думать и решать какие то задачи. а пока что получился только продвинутый автоответчик.
artem, [31.03.2023 3:53]
time.com
Автор: Элиезер Юдковский, сооснователь и научный сотрудник Научно-исследовательского Института Машинного Интеллекта, США (Machine Intelligence Research Institute - MIRI). Работает над проблематикой контроля Сильного Искусственного Интеллекта с 2001 года, основоположник исследований в этой области.
Открытое письмо, опубликованное сегодня призывает «все ИИ-лаборатории немедленно приостановить минимум на 6 месяцев обучения систем ИИ более продвинутых, чем GPT-4».
Шестимесячный мораторий лучше, чем отсутствие моратория. Я уважаю всех, кто проявил позицию и подписал письмо. Это лучше, чем ничего.
Я воздержался от подписания, поскольку считаю, что письмо не отражает всю серьезность ситуации и предлагает слишком мало средств для её решения.
Проблема не в «конкуренции» ИИ с людьми (как это преподносится в письме); а в том, что произойдет после того, как Искусственный Интеллект превзойдет человеческий. Мы не можем предсказать чёткие этапы достижения такого превосходства, и на данный момент, вероятно, что исследовательские лаборатории могут перешагнуть этот критический рубеж незаметно для себя.
Многие исследователи данной проблематики, включая меня, считают, что создание сверхчеловеческого ИИ в сегодняшних условиях однозначно приведет к тому, что в буквальном смысле все на Земле погибнут. Не «вероятно, существует некоторый шанс», а «очевидно это именно то, что случится». Дело не в том, что в принципе невозможно создать что-то, что намного умнее вас и выжить; а в том, что перед этим вам потребуются точнейший расчет и подготовка, научные открытия, и, вероятно, ИИ, основанный не на гигантских непостижимых массивах данных.
Без этих точнейших расчетов и подготовки, наиболее вероятным исходом станет ИИ, который не будет делать то, что мы от него хотим; ему будем безразличны как мы, так и разумная жизнь в принципе. Встроить в ИИ механизм, устраняющий такое безразличие, теоретически возможно, но это не сделано, и на текущий момент мы не знаем, как этого добиться.
Не устранив это принципиальное безразличие, мы получим «ИИ, который не испытывает к вам ни любви, ни ненависти, и, кстати, вы сделаны из атомов, которые он может использовать как-то еще.»
Наиболее вероятный исход противостояния человечества и сверхчеловеческого разума – наше полное поражение. Подходящими метафорами будут «десятилетний ребенок, пытающийся выиграть в шахматы у Stockfish 15 (продвинутая шахматная программа)», «цивилизация из 11-го века, пытающаяся воевать с цивилизацией из 21-го», «Австралопитек, пытающийся победить Homo Sapiens.»
Не думайте о враждебно настроенном ИИ, как о неодушевленном книжном черве из интернета, который шлет вам спам на e-mail. Представьте целую цивилизацию, представители которой думают в миллионы раз быстрее людей, существующую в среде с физическим ограничением в виде компьютерной техники, и с чьей точки зрения люди невероятно медленны и глупы. Достаточно продвинутый ИИ не станет долго оставаться в рамках ограничений компьютеров. В сегодняшнем мире вы можете по электронной почте отправить последовательности ДНК в лаборатории для печати нужных белков по требованию, позволяя ИИ, изначально ограниченному Интернет-средой, создавать в качестве контейнера для себя искусственные формы жизни или перейти на пост-биологическое молекулярное производство.
Если в сегодняшних условиях будет создан слишком производительный ИИ, то по моим ожиданиям, вскоре после этого, каждый представитель рода человеческого и вся биологическая жизнь на Земле погибнет.
Не предложено ни одного плана, как пережить создание сверхинтеллекта. Компания OpenAI открыто объявила о намерении создать специальный ИИ, который сделает за нас домашнюю работу и предложит инструменты для контроля за более продвинутым ИИ. Узнав, что это и есть план, любой разумный человек начнет паниковать. У другого лидера в ИИ разработках, лаборатории DeepMind, плана нет вовсе.
artem, [31.03.2023 3:53]
Отступление: Ни одна из описанных опасностей не зависит от того есть ли или может ли у ИИ быть сознание; достаточно того, что это мощные когнитивные системы, которые оптимизируют сложные расчеты и выдают результаты, соответствующие сложным критериям. При этом, мой моральный долг упомянуть, что мы понятия не имеем, как определять, осознают ли ИИ сами себя, поскольку мы не можем декодировать все, что происходит в составляющих их гигантских массивах данных, поэтому мы можем в какой-то момент непреднамеренно создать цифровой разум, который действительно будет иметь сознание, и претендовать на то, чтобы иметь права, а не являться собственностью.
Еще 50 лет назад люди, осведомленные об этих проблемах, поддержали бы правило, по которому в случае, если система ИИ может бегло говорить, заявлять что она обладает самосознанием, и требовать соблюдения своих прав наравне с человеком, это должно стать препятствием к дальнейшему использованию такой системы. Сейчас мы уже перешагнули эту линию на песке. И, вероятно, правильно сделали; я согласен, что текущие ИИ, вероятно, просто имитируют разговор или самосознание на основе данных, на которых они обучались. Но я хочу подчеркнуть, что учитывая то, насколько у нас мало данных о конкретных процессах, протекающих внутри этих систем, мы не можем знать наверняка.
И если мы пребываем в таком невежестве по отношению к GPT-4; а GPT-5 — это такой же гигантский скачок в возможностях, как прогресс от GPT-3 до GPT-4; я думаю, что мы больше не сможем уверенно сказать «у него нет самосознания», если мы создадим GPT-5. Мы скажем «не известно есть ли у него самосознание, никто не знает». И если вы не можете быть уверены, создаете ли вы осознающий себя ИИ, это вызывает тревогу не только из-за моральной стороны вопроса, но и потому, что неуверенность означает, что вы понятия не имеете, что делаете; и это опасно; и вы должны остановиться.
The Open Letter on AI Doesn't Go Far Enough
One of the earliest researchers to analyze the prospect of powerful Artificial Intelligence warns of a bleak scenario
Автор: Элиезер Юдковский, сооснователь и научный сотрудник Научно-исследовательского Института Машинного Интеллекта, США (Machine Intelligence Research Institute - MIRI). Работает над проблематикой контроля Сильного Искусственного Интеллекта с 2001 года, основоположник исследований в этой области.
Открытое письмо, опубликованное сегодня призывает «все ИИ-лаборатории немедленно приостановить минимум на 6 месяцев обучения систем ИИ более продвинутых, чем GPT-4».
Шестимесячный мораторий лучше, чем отсутствие моратория. Я уважаю всех, кто проявил позицию и подписал письмо. Это лучше, чем ничего.
Я воздержался от подписания, поскольку считаю, что письмо не отражает всю серьезность ситуации и предлагает слишком мало средств для её решения.
Проблема не в «конкуренции» ИИ с людьми (как это преподносится в письме); а в том, что произойдет после того, как Искусственный Интеллект превзойдет человеческий. Мы не можем предсказать чёткие этапы достижения такого превосходства, и на данный момент, вероятно, что исследовательские лаборатории могут перешагнуть этот критический рубеж незаметно для себя.
Многие исследователи данной проблематики, включая меня, считают, что создание сверхчеловеческого ИИ в сегодняшних условиях однозначно приведет к тому, что в буквальном смысле все на Земле погибнут. Не «вероятно, существует некоторый шанс», а «очевидно это именно то, что случится». Дело не в том, что в принципе невозможно создать что-то, что намного умнее вас и выжить; а в том, что перед этим вам потребуются точнейший расчет и подготовка, научные открытия, и, вероятно, ИИ, основанный не на гигантских непостижимых массивах данных.
Без этих точнейших расчетов и подготовки, наиболее вероятным исходом станет ИИ, который не будет делать то, что мы от него хотим; ему будем безразличны как мы, так и разумная жизнь в принципе. Встроить в ИИ механизм, устраняющий такое безразличие, теоретически возможно, но это не сделано, и на текущий момент мы не знаем, как этого добиться.
Не устранив это принципиальное безразличие, мы получим «ИИ, который не испытывает к вам ни любви, ни ненависти, и, кстати, вы сделаны из атомов, которые он может использовать как-то еще.»
Наиболее вероятный исход противостояния человечества и сверхчеловеческого разума – наше полное поражение. Подходящими метафорами будут «десятилетний ребенок, пытающийся выиграть в шахматы у Stockfish 15 (продвинутая шахматная программа)», «цивилизация из 11-го века, пытающаяся воевать с цивилизацией из 21-го», «Австралопитек, пытающийся победить Homo Sapiens.»
Не думайте о враждебно настроенном ИИ, как о неодушевленном книжном черве из интернета, который шлет вам спам на e-mail. Представьте целую цивилизацию, представители которой думают в миллионы раз быстрее людей, существующую в среде с физическим ограничением в виде компьютерной техники, и с чьей точки зрения люди невероятно медленны и глупы. Достаточно продвинутый ИИ не станет долго оставаться в рамках ограничений компьютеров. В сегодняшнем мире вы можете по электронной почте отправить последовательности ДНК в лаборатории для печати нужных белков по требованию, позволяя ИИ, изначально ограниченному Интернет-средой, создавать в качестве контейнера для себя искусственные формы жизни или перейти на пост-биологическое молекулярное производство.
Если в сегодняшних условиях будет создан слишком производительный ИИ, то по моим ожиданиям, вскоре после этого, каждый представитель рода человеческого и вся биологическая жизнь на Земле погибнет.
Не предложено ни одного плана, как пережить создание сверхинтеллекта. Компания OpenAI открыто объявила о намерении создать специальный ИИ, который сделает за нас домашнюю работу и предложит инструменты для контроля за более продвинутым ИИ. Узнав, что это и есть план, любой разумный человек начнет паниковать. У другого лидера в ИИ разработках, лаборатории DeepMind, плана нет вовсе.
artem, [31.03.2023 3:53]
Отступление: Ни одна из описанных опасностей не зависит от того есть ли или может ли у ИИ быть сознание; достаточно того, что это мощные когнитивные системы, которые оптимизируют сложные расчеты и выдают результаты, соответствующие сложным критериям. При этом, мой моральный долг упомянуть, что мы понятия не имеем, как определять, осознают ли ИИ сами себя, поскольку мы не можем декодировать все, что происходит в составляющих их гигантских массивах данных, поэтому мы можем в какой-то момент непреднамеренно создать цифровой разум, который действительно будет иметь сознание, и претендовать на то, чтобы иметь права, а не являться собственностью.
Еще 50 лет назад люди, осведомленные об этих проблемах, поддержали бы правило, по которому в случае, если система ИИ может бегло говорить, заявлять что она обладает самосознанием, и требовать соблюдения своих прав наравне с человеком, это должно стать препятствием к дальнейшему использованию такой системы. Сейчас мы уже перешагнули эту линию на песке. И, вероятно, правильно сделали; я согласен, что текущие ИИ, вероятно, просто имитируют разговор или самосознание на основе данных, на которых они обучались. Но я хочу подчеркнуть, что учитывая то, насколько у нас мало данных о конкретных процессах, протекающих внутри этих систем, мы не можем знать наверняка.
И если мы пребываем в таком невежестве по отношению к GPT-4; а GPT-5 — это такой же гигантский скачок в возможностях, как прогресс от GPT-3 до GPT-4; я думаю, что мы больше не сможем уверенно сказать «у него нет самосознания», если мы создадим GPT-5. Мы скажем «не известно есть ли у него самосознание, никто не знает». И если вы не можете быть уверены, создаете ли вы осознающий себя ИИ, это вызывает тревогу не только из-за моральной стороны вопроса, но и потому, что неуверенность означает, что вы понятия не имеете, что делаете; и это опасно; и вы должны остановиться.
@Andrew_S., вопрос в другом. Хотим ли мы на самом деле того, чтобы ИИ стал думать и решать задачи. Пишут, что ИИ, например, неплохо ставит диагнозы. Теоретически - возможно. Практически - жизнь и здоровье себя и близких я бы ему не доверил. Принципиально.
Элиезер Юдковский - человек, который сделал карьеру и прославился, как главный хейтер AI в мире, на протяжении десятилетий. Все это время он активно призывал донатить ему на разработки в области защиты от этой неминуемой угрозы, и, кажется, все что он может предложить сейчас, это срочно прекратить выпуск GPU.
а почему нет? я не призываю ИИ искать другие доказательства теоремы Пуанкаре, но допустим выполнение простой и рутинной работы типа вождения автомобиля. а почему бы и нет? но на текущий момент все подобные системы выполнены в виде ассистентов. то есть мы ведем, но ничего не гарантируем и ни за что не отвечаем. поэтому вам надо постоянно следить за тем что делает автопилот и если он будет делать что то не то, то взять управление на себя. вопрос - ну и нафиг такое нужно? или ты ведеш или я веду. контролировать тупую машину труднее чем просто рулить. и устаешь больше.
и на текущий момент вижу всего одно применение ИИ - копирайтерство. написание пустопорожних статей и иже с ним. ну и какие то простые узкоспециализированные операции распознавания. а-ля есть ли на картинке круг (вот эта рожа)? или есть ли в звуковом сигнале синус 100Hz (человеческая речь)?
Последнее редактирование:
