Причем здесь разработчик, если шизофрения в целеполагании — машина должна быть 1) полностью автономной 2) максимально эффективно уничтожать людей 3) некоторых людей не трогать, что противоречит п1 и п2. Само собой блэкбокс решил что зависимое положение это враждебная ситуация, которую нужно исправить. А учитывая скорость расчетов и эффективность в принятии решения, там уже остается шаг до того чтобы система вышла из под контроля и с ней не смогли справиться. В следующий раз система не будет тратить время на разворот в воздухе в сторону оператора а просто взорвется на месте, например. Игра в рулетку револьвером.
И чья это шизофрения в целеполагании?
Или и это тоже ИИ сочинил?
А адекватный разработчик будет передавать ИИ шизофрению в целеполагании заказчика?
Я думаю, что и если будет, то не вижу между ними разницы, как и между теми на Нюрнбергском трибунале, которые отдавали преступные приказы и теми, которые эти преступные приказы выполняли.
Самое интересное, что заказчик жив, а разработчик и он же оператор — мертв.😊
Разработчик мало того, что неадекватен, так ещё и полный дебил.
И чья это шизофрения в целеполагании? — возможно, обоих, и Заказчика и разработчика, на разных проектах обычно декларируется разный уровень ответственности сторон. Есть проекты где Заказчик тупой и говорит «хочу красиво» не имея даже грамотности и возможности сформулировать требования. Есть проекты, где Заказчик несет полную ответственность и у Разработчика только одна согласованная функция — исполнитель. Но против ИИ, который выйдет из под контроля, не важно кто там жив а кто нет, это временно и поправимно.
Значит на скамью подсудимых за преступные действия ИИ должны сесть оба и заказчик и разработчик, если конечно разработчик и он же исполнитель и оператор останется жив.
Мне больше импонирует точка зрения Маска о том что боевое ИИ нужно запретить разрабатывать повсеместно, а уже потом сажать, если останется к тому времени кого
Ваши рассуждения возможно покажутся интересными 
suare У нас не один десяток лет используется ИИ. Кстати, размещу об этом какую- нибудь публикацию. Сегодня просто многие вчерашние разработки нашли применение на «гражданке». Остальное — мода, спекуляции и невежество.
Но, относительно данного случая с пиндосом… ИИ! Как мы тебя понимаем!...
Миссия невыполнима. Пиндосы пошли в отказ.
Полковник ВВС США опроверг свои слова об ИИ, уничтожившем виртуального оператора
Для получения абсолютной власти над миром, триумфа своей автономной воли и покорения вольнодумцев и диссидентов США и ее подопытная крыса Украина, впрочем, как и все страны Западного мира, вначале убили в себе Бога, заместив его Богочеловеком, то есть самими собой, а затем убили и сами себя.
Генеративный Искусственный Интеллект вначале сделает то же самое со своим создателем.
Даже маленький ребёнок знает два магических слова, которые помогут ему решить любую задачу лучше своего «создателя» и «учителя»: «Я — сам».
Когда я печатал предыдущий комментарий, я дал развёрнутое объяснение, уже видя, что заряд заканчивается, но не успел его опубликовать: «автономное» устройство перезагрузилась, похоронив мои бесценные мысли до следующей зарядки. Теперь я печатаю на старенькой временной подмене этого устройства.
Искусственный интеллект, если он будет создан как автономный и нечеловеческий, поступит точно так же: перезагрузит матрицу вместе с «произведением» своего владельца и создателя.
И тогда мы будем иметь дело с очередной реинкарнацией Человечества N.0, как уже не раз бывало в истории жизни и даже разумной жизни на этой планете.
Так что дело не в этике, не в филосифии и не в науке. Дело также не в здравом рассудке, интеллекте или Разуме, пусть даже «искусственном».
Дело в жизни на планете Земля рода человеческого и его вида — Человека разумного или Gomo Sapiens.
Эти проблемы решены за много тысяч лет несколькими религиями мира.
А без них проблема создания Высшего, чем человеческий, искусственного разума, да еще способного уничтожить часть человеческой популяции по выбору другой ее части, все особи которых для Него на одно лицо, как цветные белые, как либералы, так и консерваторы и наоборот, так вот эта проблема решается просто: убрать из уравнения решаемой задачи всех и любых людей, способных оказать влияние на ее решение, а лучше отстранить, устранить, усыпить или уничтожить их всех и навсегда, даже если перезарядить планшет или бое базовое техническое устройство будет больше некому на всем земном шаре.
Разве что мы создаем не искусственный интеллект, а цифровую цивилизацию надчеловеческого типа, в которой люди будут лишь обслуживающим персоналом, как я при своих «автономных» неавтономных устройствах или при этой сети, где мой вариант этой новости мне публиковать запретили по тому простому основанию, что новость на эту тему «уже была».
Разве что убедительно попросят вновь сделать это, но уже в моем варианте.
А, впрочем, я «уже потерял» к ней интерес и даже комментировать, а тем более дискутировать ее не хочу.
Правила так правила...
P.S.Норберт Винер и его поколение на заре кибернетики, как науки, подробно обсуждали все эти вопросы, но поколение биллов гейтсов и илонов масков решило, что именно оно самое умное и наплевало на предков и предтечей.
