Думаю, что на сегодня скорее уместно опасаться не «вочеловечивания» искусственного интеллекта, а обратного – роботизации и примитивизации человеческого интеллекта, сопряженной с обеднением языка.
Читать новость

Цитата:
Верно, но дело в том, что когда будет не рано - станет слишком поздно. Как только ИИ научится самостоятельно ставить собственные цели - так и накроется всё медным тазом.

Цитата:
Подогнали развернутый ответ под минимальный размер контекстного окна некоторых индивидуумов? ИИ одобряет

Бояться надо не искусственный интеллект, а тех, кто естественным пользоваться не умеет. Вот что действительно страшно...
На верхах таких становится все больше

Цитата:
Цитата:
Хм..
Сам то умеешь?
И если умеешь, почему живешь на болотах вместе со всеми?

Цитата:
Не повериТЕ!
Не ТЫкать другим людям, не изливать свое больное "Я" на окружающих, не видеть больше, чем есть на самом деле - это вроде и мелочи, но и с ними надо уметь совладать! Не каждому это дано.

По поводу болота - а вас это колышет, где и почему я живу? Не вашего ИИ дело))

Двар Эв торжественно запаял золотом последний контакт. Двенадцать телекамер неотрывно следили за каждым его движением - трансляция шла на всю галактику. Он выпрямился и кивнул Двар Реину. Затем подошел к выключателю, который скоро замкнет цепь. К выключателю, соединяющему одновременно все компьютеры всех обитаемых планет - девяносто шесть миллионов миров - в суперсеть, которая объединит их в один суперкомпьютер, единую кибернетическую машину, собравшую мудрость всех известных миров. Двар Реин обратился с короткой, вступительной речью к биллионам телезрителей и затем, после короткой паузы, он произнес: - Пора, Двар Эв! Двар Эв нажал выключатель. Раздалось мощное гудение, пошла энергия девяноста шести миллионов планет. На бесконечно длинном пульте замигали разноцветные огоньки. Он отошел назад и громко провозгласил: - Честь задать первый вопрос принадлежит вам, Двар Реин! - Благодарю, - ответил Двар Реин, - Это будет вопрос, на который не мог ответить ни один компьютер. Он повернулся к пульту. - Есть ли бог? Могущественный голос раздался сразу. - ДА. ТЕПЕРЬ БОГ ЕСТЬ! Двар Эв понял не сразу, но потом страх исказил его лицо - он бросился к выключателю... Молния сорвалась с безоблачного неба и испепелила его на месте, намертво запаяв соединение.

Фредерик Браун. Ответ.
(Воспоминания с детства. Сборник рассказов Другое небо)

Рассказ написан в 1954 году так то. Но пока ИИ все еще никого молнией не испепелил )))

Почему он должен кого-то испепелить? Он даже не знает что это такое и никогда не узнает. Ещё раз - это электронный дрессированный болван, что кто-то там воспринимает его как почти живого и впадает в страх и трепет так то вопросы к воспринимающему, это у него с головой неполадки а не у этой компьютерной ерунды

Цитата:
Да хотя бы потому, что другой болван при составлении новой задачи для суперкомпьютера забыл указать - "не испепелять никого молниями" в условиях к задаче.
Почитайте про ИИ и скрепки.

"Терминатор" - начало !?

Цитата:
я так и сказал - вопросы к дол....м, то есть к людям. к железке какие претензии, или ожидания от неё...сверхестественые? она не придумает изготавливать скрепки до одури, она вообще ничего не придумает. даже простенькое стихотворение в 4 строчки без запроса не сочинит.

Цитата:
Тут вы не правы. Сложные системы могут сами себе придумывать промежуточные задания, двигаясь к цели - основному заданию. Если у примеру задание - развеселить как-то человека, любым доступным способом, то ИИ может и стишок сочинить, и песенку спеть, и видос найти и показать.

Цитата:
Именно так, ожидания сверхъестественные. У автомобиля, который едет без водителя, есть задачи данные им разработчиками. К примеру, одна задача - сохранить жизнь пассажиру, другая задача - сохранить жизнь пешеходам, и суммарный риск должен быть минимальный. Задачи поставлены правильно, к разработчикам вопросов нет. Но что если возникнет ситуация, когда пешеход выбежит на дорогу, и вариантов будет только два - сбить, или свернуть в бетонную стену. Тогда ИИ будет считать вероятности, сравнивать статистику, учитывая скорость, погоду, то место, где сидит пассажир, возможно возраст, и много чего ещё, (например состояние здоровья пассажира). Случится так что в похожих ситуациях поступит диаметрально противоположно. И разработчики не смогут объяснить, почему один раз машина поступила так, другой раз - по другому. Будет слишком много переменных, которые обычному человеку просчитать невозможно. Мажор однозначно собьёт пешехода, даже обвешавшись подушками безопасности, и это будет легко объяснить. Самоотверженный водитель выберет бетонную стену, даже если риск его собственной смерти будет выше, чем риск смерти пешехода, нерациональное поведение свойственно людям. Как поступит машина - сложно предсказать, но это будет максимально рационально.

[Исправлено: maxsaf, 04.09.2025 - 01:06]

Цитата:
И это по-прежнему "Запрос". Без запроса, просто потому что это нравится в первую очередь самой железке, а уж потом может быть, но не обязательно, кому-то там ещё, не сочинит.
Цитата:
А задачу ехать таким образом, предугадывая и предвосхищая, чтобы избежать выбора между стеной и пешеходом у разработчиков ума не хватило поставить?

Цитата:
И потом, эти системы уже заведомо знают как решаются эти задания и какой у них будет результат. Они ведь не сочиняют себе какой-то временный "костыль" ( типа пока подопрем палкой чтоб не упало, а потом подумаем как на проволоку или синюю изоленту половчее прикрутить).
А по вашим восторженным высказываниям выходит что дай ему задание запустить ракету в космос без вводных он сам выдумает числа, цифры под них, математические операции, физику и че там им ещё надо для запуска!? Давайте объективно, какие из математических задач типа походя решённой Перельманом ваш ии решил? А уж где больше формализма и логики чем в математике представить сложно.

Цитата:
Давайте:

РБК