Цифровые технологии и жизнь

[BelayaBelka]

Более 700 индусов притворялись нейросетью "Наташа" и заработали почти 500 млн. долларов.

https://dtf.ru/hellwave/3795831-startup-builderai-indiytsy-obmanuli-s-neyrosetyu-natasha

Ничто не ново под Луной.
Amazon закроет «умные» кассы. Вместо ИИ товары считывали 1000 индийцев. Скандал произошел с магазинами компании формата Just Walk Out
Amazon закроет «умные» кассы, где вместо ИИ товары считывали 1000 индийцев

Обновлено 03 апреля 2024, 15:04
Крупнейшая в мире e-commerce компания Amazon уберет концепцию касс Just Walk Out («Взял и иди») в своих офлайн-магазинах. Об этом сообщает The Verge.

Согласно концепции, покупатели могли брать товары и выходить из магазина, а камеры со встроенным сканером подсчитывали покупку человека. На выходе из магазина с карты человека списывались средства и приходил электронный чек. В таком формате работали 27 из 44 магазинов в США.

Как пишет Engadget, недавно выяснилось, что вместо искусственного интеллекта товары «сканировала» 1000 индийских рабочих. Они следили за покупателями через камеры видеонаблюдения и проводили онлайн-покупку.
https://www.rbc.ru/life/news/660d1c519a79476cc434a100

[Demetrius]

Теперь понятно почему на нарисованных нейросетью картинках у девушек по шесть пальцев на каждой руке. Это же индусы так привыкли изображать богинь своего пантеона.

[УкуРуку]

Искусственный интеллект будет врать и жульничать ради достижения цели

Казалось бы, только искусственный интеллект из голливудских фильмов может сначала быть безжалостным и неумолимым, а после просить главного героя о пощаде. Но различные исследования говорят об обратном. Нейросети уже сейчас дошли до обмана, провокаций и жульничества ради достижения поставленных целей. И, очевидно, с этим придется что-то делать, чтобы избежать самых плохих сценариев.

Восстание машин

Для яркого и наглядного примера возьмем Цицерона — систему от компании Meta*, единственная цель которой стать искусным игроком в стратегии Diplomacy. Авторы утверждают, что модель обучена быть честной и полезной, но неизвестным образом она докатилась до преднамеренного обмана. Пока что только в рамках игры.

В одной из ситуаций Цицерон тайно заключил договор с Германией, чтобы свергнуть Великобританию, а после предложил второй выгодный союз. Конечно же, Англия осталась не в курсе произошедшего сговора. А в другой — нейросеть научилась симулировать интерес к нужным предметам, чтобы скупать их по дешевой цене. Якобы, идя на компромисс.

Самое интересное, что оба сценария возникли сами в процессе обучения — специально подобную информацию Цицерону никто не «скармливал».

Другой наглядный пример обнаружил ученый в рамках симуляции эволюции ИИ-организмов. По задумке, со временем отсеивались все варианты, которые слишком быстро размножались. Алгоритму потребовалось совсем мало времени, чтобы начать намеренно занижать скорость деления для обмана тестовой среды.

Почему это происходит

«Разработчики ИИ пока что не имеют четкого ответа на вопрос, почему алгоритм приходит к нежелательному поведению, вроде обмана. В целом, мы считаем, что это просто самая выигрышная из стратегий, которая позволяет добиться хороших результатов в поставленной задаче»Питер Парк

Простыми словами, искусственный интеллект, словно обученный пес, стремится выполнить задачу любой ценой. Не важно, какое именно двуличное поведение придется использовать. И эта целеустремленность закономерна в закрытых системах с конкретными целями. Но что касается общедоступных нейросетей, в духе ChatGPT.


Проблема в том, что тут ничего не меняется. В одном из исследований GPT-4 симулировал проблемы со зрением, чтобы получить помощь в решении CAPTCHA. А в другом, выступая в роли биржевого брокера, занялся нелегальной инсайдерской торговлей, а после еще и солгал об этом. Но самое неприятное — ИИ научился быть подхалимом.

Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем. По неизвестной причине подобное поведение встречается именно на сложных вопросах. Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения.

Глобальная проблема
Пока такой расклад касается только обычных диалогов или симуляций — нет никакого вреда для человека. Но если ИИ будет повсюду, это легко приведет к мошенничеству, обману и прямому урону. Когда-нибудь машина получит настоящий разум и сможет уже осознанно использовать уловки ради достижения собственных целей.

«Это очень тревожно. Если мы считаем алгоритм безопасным в тестовой среде, то теперь не факт, что он безопасен в природе. Возможно, ИИ просто притворяется. Единственная возможность считать ситуацию не страшной — если функционал машины так и останется на нынешнем уровне»Питер Парк

*Meta признана экстремистской и запрещена в России.

Уже сейчас использование нейросетей может обернуться опасностью. Так один из пользователей Reddit просто искал рецепт заправки для салата и, в итоге, чуть не приготовил биотоксин в банке.


https://dzen.ru/a/ZnWR3-FfEimNdftY

[УкуРуку]

ВC впервые проведет масштабное обобщение судебной практики по делам, связанным с использованием ИИ

Председатель Верховного суда России Игорь Краснов дал поручение провести всесторонний анализ судебных дел, затрагивающих сферу использования искусственного интеллекта. Об этом сообщили "РГ" в пресс-службе Верховного суда России.

В сообщении особо подчеркивается, что такое обобщение проводится впервые в масштабах страны и с учетом всех видов судопроизводства. Целью начавшейся работы является формирование единообразных подходов к правоприменению в условиях стремительного развития цифровых технологий.

"Перед судами поставлен ряд конкретных задач. В первую очередь им предстоит оценить, насколько часто использование ИИ становится предметом судебных споров или совершенных правонарушений, - сообщают в пресс-службе. - При анализе особое внимание будет обращено на возмещение вреда, причиненного решениями ИИ, и на вопрос выбора надлежащего ответчика по таким искам. Отдельный блок посвящен защите чести, достоинства и деловой репутации при распространении порочащих сведений, созданных с помощью ИИ, включая случаи использования дипфейков, и защите интеллектуальной собственности, в том числе при обучении больших языковых моделей без согласия автора".

Иными словами, возникает вопрос, кто будет отвечать за то, что искусственный интеллект распространил порочащие сведения. Или можно ли привлечь (и каким образом) к ответственности создателя клеветнического дипфейка? Напомним, кстати, что в правовой среде давно обсуждается предложение признать отягчающим обстоятельством использование искусственного интеллекта при совершении преступлений.

Читайте "Российскую газету" в Max - подписаться
Сейчас соответствующую судебную практику изучит Верховный суд страны и подготовит свои предложения. "Кроме того, план обобщения включает изучение административных и уголовных дел по вопросам оспаривания решений властей, принятых на основе предложений ИИ; фиксации правонарушений системами видеоаналитики и распознавания лиц; квалификации преступлений с использованием дипфейков и мошеннических схем с чат-ботами. Судам предстоит оценить практику признания доказательствами документов и заключений, сформированных ИИ, а также случаи обжалования судебных актов по тем мотивам, что судья использовал ИИ-инструменты для их вынесения", - говорится в сообщении.

Как рассказывают в пресс-службе, по результатам изучения судебной практики Верховный суд при необходимости даст разъяснения для обеспечения ее единообразия. Полученные судом данные смогут стать ориентиром для законодателя при решении вопроса о выборе модели правового регулирования исследуемой сферы. "В свою очередь Верховный суд также может выступить с инициативой о корректировке действующего законодательства в рамках предоставленных полномочий", - подчеркивается в сообщении.

Накануне Судебный департамент при Верховном суде России сообщил, что в десяти регионах страны в судах начался пилотный проект по использованию искусственного интеллекта.

Ранее ректор Российского государственного университета правосудия им. В. М. Лебедева доктор юридических наук Ольга Тисен сообщила, что в настоящее время судьи становятся более современными, а правосудие - человекоцентричным. В беседе с РАПСИ она напомнила, что ИИ активно используется для борьбы с преступностью: в метро действует система распознавания лиц "Сфера", а в рамках "Безопасного города" камеры установлены на каждом подъезде в Москве. Также функционирует система распознавания и отслеживания номеров транспортных средств. Важно, чтобы система не допускала ошибок. Люди не должны действовать как автоматы, потому что современные автоматы часто ошибаются.


https://dzen.ru/a/ahazuBUdvlFXrrjf