(https://wall-street.com/wp-content/uploads/2019/05/mm-day-bottom-pic.jpg)
Здесь можно будет обсудить не только новости и достижения, но и чисто житейские, бытовые вопросы, имеющие отношение к области цифровых технологий, как то: hardware, software, андроиды, айфоны, антивирусы, интернет-безопасность, поисковые моторы, цифровой паспорт и многое, многое другое, с чем нам приходится регулярно сталкиваться в жизни.
Наталья Касперская предупредила о незащищенности биометрических данных.
https://tass.ru/ekonomika/12429137
Сегодня опробовал электронное голосование в Москве.
Заранее конечно зарегистрировался, получил номер и всё что положено.
Но когда сегодня решил голосовать, система решила, что я уже голосовал и хочу якобы переголосовать. Это сделать можно, но через три часа. Когда я пришел через три часа, мне сообщили, что данная опция отключена. Гуляй, Вася!
Вот такой не навязчивый сервис в России. Как хочешь, так и понимай. Может быть за меня кто-то проголосовал?
Да здравствует всеобщая цифровизация!
Ну ладно выборы, в конце концов хрен с ними, но если однажды банковский сервис мне заявит, что я уже забрал свои денежки? Документов-то никаких нет, все в цифре :(
Цитата: Albert от 19.09.2021, 00:14Вот такой не навязчивый сервис в России. Как хочешь, так и понимай. Может быть за меня кто-то проголосовал?
Да здравствует всеобщая цифровизация!
Ну ладно выборы, в конце концов хрен с ними, но если однажды банковский сервис мне заявит, что я уже забрал свои денежки? Документов-то никаких нет, все в цифре
да, с цифрой надо аккуратнее. Нет ничего надежней НАТУРЫ.
Цифра- это просто в помощь, а надежды на нее - никакой..))
Цитата: Albert от 19.09.2021, 00:14Сегодня опробовал электронное голосование в Москве.
В РФ его уже ввели? Интересно. Почему-то в ударно оцифрованных странах до сих пор голосуют по старинке - бумажными избир.бюллетенями.
ЦитироватьА если однажды банковский сервис мне заявит, что я уже забрал свои денежки?
И такая возможность не исключена. Сбои случаются. Могут даже по ошибке перевести на чей-то счет несколько лишних миллионов. Только обязанность граждан - не радоваться зря, присвоив ошибочные деньги, поскольку Интерпол все-равно поймает на пляжах Юго-Восточной Азии.
Цитата: Albert от 19.09.2021, 00:14Как хочешь, так и понимай.
https://eriklobakh.livejournal.com/2235223.html
Ненаучно-фантастическое эссе в слегка адаптированном переводе:Цитировать2022 год. Карин сидит за компьютером, рядом - ее муж.
Впервые в Швеции проводится электронное голосование, и по всей стране люди немного нервничают по поводу того, как это пойдет технически. Карин тоже нервничает, но по другой причине. Ее муж принял решение, за какую партию следует отдать свой голос, и теперь он сидит рядом и наблюдает, правильно ли она голосует.
Через несколько часов Карл покидает свою квартиру.
Ему предстоит встреча с загадочным человеком, говорящим с едва уловимым иностранным акцентом. За неделю до этого, Карл получил от него необычное предложение: проголосовать за определенную партию на парламентских выборах и получить за это вознаграждение в размере 200 крон наличными. Все, что требуется сделать, это встретиться в городском парке и позволить незнакомцу наблюдать, как Карл голосует на своем мобильном телефоне.
Три дня спустя, Избирательная комиссия представляет окончательный результат первых интернет-выборов в Швеции.
Трехдневная задержка объясняется вирусной атакой в день выборов. Теоретически, вирус способен изменить голоса граждан так, что никто этого не заметит. Хотя эксперты по международной безопасности и уверяют, что вирусная атака не повлияла на результаты выборов, имидж фальсифицированных выборов по-прежнему сохраняется.
Не значит ли это, что в век электронно-цифровых технологий, карандаш и бумага до сих пор надежней? И если да, то почему?
Конечно, прятаться за зелеными ширмами и рисовать кресты на листках бумаги может показаться безнадежно устаревшим занятием. Трудно понять, почему мы не голосуем в цифровом виде, так же, как делаем покупки, оплачиваем счета и выполняем другие банковские операции. Но, как известно, никакая цифровая система не является полностью безопасной. Финансовые операции легче контролировать, поскольку они полностью открыты. Банк может видеть, кто что заплатил и кому, но когда дело доходит до наших голосов, таких вариантов контроля не существует.
Даже если можно было бы создать на 100% безопасное цифровое решение, проблема с осуществлением права сохранения тайны голосования для каждого избирателя останется. За зеленой ширмой избирательного участка человек всегда один, и никакой контролирующий родственник или агент разведки не может сопровождать его туда. С другой стороны, если голосовать на компьютере или мобильном телефоне, тайна выборов никогда не может быть гарантирована.
Еще один важный момент, связанный с избирательными бюллетенями, касается прозрачности. Подсчет голосов является публичным, поэтому любой желающий может его контролировать. Бюллетени сохраняются до следующих выборов, поэтому их можно пересчитать в любое время. Это безопасность, которую не может обеспечить ни одно цифровое решение.
Такая избирательная система по-прежнему одна из самых безопасных в мире. Сегодня любой желающий может оставаться на избирательном участке и следить за подсчетом голосов, и в этом есть большая демократическая ценность. Выборы на бумаге невозможно взломать, и даже если все компьютеры выключены, мы все равно сможем подсчитывать голоса при свете свечей. В электронных же выборах мы должны слепо полагаться на экспертов.
Цитата: Frida от 27.09.2021, 20:29Ненаучно-фантастическое эссе в слегка адаптированном переводе:
Не значит ли это, что в век электронно-цифровых технологий, карандаш и бумага до сих пор надежней? И если да, то почему?
Конечно, прятаться за зелеными ширмами и рисовать кресты на листках бумаги может показаться безнадежно устаревшим занятием. Трудно понять, почему мы не голосуем в цифровом виде, так же, как делаем покупки, оплачиваем счета и выполняем другие банковские операции. Но, как известно, никакая цифровая система не является полностью безопасной. Финансовые операции легче контролировать, поскольку они полностью открыты. Банк может видеть, кто что заплатил и кому, но когда дело доходит до наших голосов, таких вариантов контроля не существует.
Даже если можно было бы создать на 100% безопасное цифровое решение, проблема с осуществлением права сохранения тайны голосования для каждого избирателя останется. За зеленой ширмой избирательного участка человек всегда один, и никакой контролирующий родственник или агент разведки не может сопровождать его туда. С другой стороны, если голосовать на компьютере или мобильном телефоне, тайна выборов никогда не может быть гарантирована.
Еще один важный момент, связанный с избирательными бюллетенями, касается прозрачности. Подсчет голосов является публичным, поэтому любой желающий может его контролировать. Бюллетени сохраняются до следующих выборов, поэтому их можно пересчитать в любое время. Это безопасность, которую не может обеспечить ни одно цифровое решение.
Такая избирательная система по-прежнему одна из самых безопасных в мире. Сегодня любой желающий может оставаться на избирательном участке и следить за подсчетом голосов, и в этом есть большая демократическая ценность. Выборы на бумаге невозможно взломать, и даже если все компьютеры выключены, мы все равно сможем подсчитывать голоса при свете свечей. В электронных же выборах мы должны слепо полагаться на экспертов.
https://eriklobakh.livejournal.com/2235583.html
Цитироватьhttps://eriklobakh.livejournal.com/2235583.html
Кто такой Эрик Лобах и почему Вы его рекомендуете?
Цитата: Frida от 03.10.2021, 01:14Кто такой Эрик Лобах и почему Вы его рекомендуете?
Просто содержание текста посвящено проблеме "выборы и цифровые технологии". Личность значения не имеет.
ЦитироватьПросто содержание текста посвящено проблеме "выборы и цифровые технологии". Личность значения не имеет.
Благодарю за совет. Не нахожу, однако, чем тексты этой "не имеющей значения личности" интересны или поучительны.
Я в чем-то неправа?
Цитата: Frida от 03.10.2021, 01:50Благодарю за совет. Не нахожу, однако, чем тексты этой "не имеющей значения личности" интересны или поучительны.
Я в чем-то неправа?
Этот текст просто кстати. Поскольку перекликается с содержанием Вашего поста. А если Вы не находите его интересным или поучительным, то это Ваше право.
Цитата: Demetrius от 03.10.2021, 00:48https://eriklobakh.livejournal.com/2235583.html
Это правильное мнение. И именно поэтому в США например большинство голосует на бумаге, по старинке. Электронное голосование тоже есть на избирательных участках, но там все машины имеют обязательную дублирующую бумажную копию всех голосов.
Цитата: Demetrius от 03.10.2021, 23:46Большой брат 2:0. Как Китай строит цифровую диктатуру
https://carnegie.ru/commentary/71546
Внедряет ли Россия китайские цифровые методы контроля над обществом
https://carnegie.ru/commentary/84740 (https://carnegie.ru/commentary/84740)
Электронная Эстония (https://e-estonia.com/)
(https://static.xabaruz.com/uploads/37/720__D8ZmDJrsS6mt-D7-WYEO12n1kiefQ7wI.jpg)
Эстония, названная
Wired «самым передовым цифровым обществом в мире», создала эффективную, безопасную и прозрачную экосистему, в которой 99% государственных услуг находятся в режиме онлайн. Эту страну часто называют «электронной Эстонией», указывая на высокий уровень развития цифровых технологий. Трудно поверить, но даже самые развитые страны, такие как Япония и США, полагаются на поддержку со стороны маленькой Эстонии: в рамках e-Estonia в Японии были запущены сайты цифровых рецептов, а для США были разработаны безопасные телекоммуникационные системы передачи данных. Эстонские программисты принимали участие в создании Skype, Hotmail и Transferwise.
Эстония провозгласила доступ к интернету неотъемлемым правом человека и создала процветающую стартап-культуру. Большинство государственных услуг для юридических лиц и простых граждан давно стали цифровыми. Используя ID-карту, действующую как онлайн-паспорт, большая часть жителей страны может регулярно выполнять следующие операции:
- дистанционно подписывать договоры,
- использовать ID-карту для оплаты за пользование общественным транспортом,
- оплачивать парковку при помощи мобильного телефона,
- голосовать по Интернету,
- совершать банковские операции по Интернету,
- получать цифровые рецепты от врача, в том числе и дистанционно,
- подавать налоговую декларацию через Интернет,
- учащиеся могут проверить свои оценки, следить за процессом обучения и получать доступ к учебным материалам по Интернету,
- создать в течение 18 минут новую компанию, не отходя от своего персонального компьютера,
- ходатайствовать о получении государственного пособия (например, пособия по уходу за ребенком).
Это, в свою очередь, освобождает нуждающиеся в социальных пособиях семьи от разных хлопот, предотвращает вмешательство человеческого фактора и коррупцию. Для снижения рисков используется мощное кодирование, на ID-карте содержится минимум личных данных. Утерянные карты можно легко аннулировать.
Благодаря прозрачности и доступности государственных услуг Эстония стала одним из самых передовых электронных государств мира. В рейтинге ООН по электронному правительству 2020 года Эстония вошла в тройку самых цифровых стран мира.
Windows 11 запущена в качестве бесплатного обновления
(https://cdn.mos.cms.futurecdn.net/YveYK6wYHsvJugwBuGQtsN-970-80.png)
Обновление теперь широко доступно на бета-канале и демонстрирует несколько улучшений по всем направлениям, в том числе для Microsoft Store. Имейте в виду, что сейчас в версии есть множество ошибок и проблем. Microsoft обещает, что Windows11 должна стать «самой безопасной версией операционной системы на сегодняшний день».
Fluent Design - новое название внешнего вида Windows 11.
Одним из самых больших изменений является то, что начальное меню переместилось и теперь оно находится в середине новой док-системы. Виджеты Windows вернулись, и к ним можно получить доступ из док-станции.
kö.jpg
Цитата: Frida от 05.10.2021, 13:46Благодаря прозрачности и доступности государственных услуг Эстония стала одним из самых передовых электронных государств мира. В рейтинге ООН по электронному правительству 2020 года Эстония вошла в тройку самых цифровых стран мира.
У меня сложилось впечатление, что "ЭЭ" это международный экспериментальный проект. Да и Китая это касается. Что будет, если сделать так. Что будет, если сделать эдак. . .
Продолжение темы антиутопий
(https://hsto.org/getpro/habr/post_images/26c/1df/7ac/26c1df7ac3e518e44dd478a99985d4bd.jpg)
Наблюдаемый сегодня кризис представительства уже породил дискуссию о целесообразности существования классических институтов народовластия, таких, как парламентаризм. Зачем, спрашивается, кого-то выбирать и куда-то посылать, оплачивая посланному проезд и обильное питание, когда есть Интернет, способный со скоростью света передать ваше мнение кому угодно, минуя упитанных посредников? Не риторический вопрос. На который есть и такой ответ: в общем-то, незачем.
В нашей электронной современности уже существуют технические возможности для того, чтобы граждане могли представлять себя сами, напрямую включаясь в процедуры принятия решений. В этой схеме нет парламента. Вместо него — средства связи, алгоритмы и модераторы: избиратель вступает в двусмысленные и неравноправные отношения с миром машин. Алгоритмы уже эффективно распоряжаются средствами инвесторов на глобальных финансовых рынках. Основные политические практики, как законодательные, так и, тем более, электоральные ничуть не сложнее фондовых и валютных транзакций. Выборы, законотворчество, многие функции исполнительной власти, судебные и арбитражные разбирательства, дебаты и даже протестные акции — все это можно будет делегировать искусственному интеллекту.
Конечно, политический класс полностью не исчезнет. Ведь у алгоритмов есть владельцы. По К. Марксу, кто владеет средствами производства, тот обладает и решающим влиянием. В цифровую эпоху это IT-гиганты и спецслужбы. Несколько небольших по территории и населению стран смогут нарастить столь мощные кибернетические ресурсы, что окажутся в состоянии контролировать значительную часть пока еще «ничейного» киберпространства и при необходимости парализовать военные и экономические потенциалы самых больших государств. Как в XVI веке крохотная Португалия обрела несоразмерное могущество с помощью всего нескольких десятков кораблей, пары тысяч моряков и купцов и своевременного захвата «ничейных» морских торговых путей, так и будущие карликовые сверхдержавы посредством умело комбинируемых технологий e-war и e-commerce сравняются по влиянию с традиционными сверхдержавами.
Историческое родство и другие иррациональные начала национального государства не очень решительно, но весьма последовательно отодвинутся ради культа комфорта и торгово-прагматического взгляда на отношения личности и социума. Некоторые великие городские агломерации, будучи рассадниками космополитизма, обособятся в автономные сообщества меркантильных людей «без роду и племени», приблизившись к либертарианскому идеалу государства как гипертрофированного коворкинга, не отягощенного сентиментальной идеологией долга и верности. Правительства не смогут навязывать себя человеку в качестве Родины и Отечества, и станут для него только совокупностью специфических сервисов.
Виртуальные республики покажут пример создания государств без территории. Их население составят как цифровые двойники реальных людей, так и абсолютно бестелесные чистопородные боты. Возникнув, возможно, в даркнете как полулегальные налоговые гавани или пиратские маркетплейсы, или просто как игровые пространства, существуя исключительно в Сети, они постепенно обзаведутся стабильной экономикой, системой управления, кибероружием и коллективной гордостью, то есть всей полнотой суверенитета. И превратятся в равноправных участников международных отношений. Гражданин такой виртуальной страны своим «юридическим телом» будет обитать в ее суверенном цифровом облаке, а «физическим», если таковое имеется, на твердой земле «обычного» государства — как иностранец.
В результате неизбежной цифровизации и роботизации политической системы возникнет высокотехнологичное государство — безлюдная демократия. Главной особенностью безлюдной демократии станет резкое снижение роли человеческого фактора в политическом процессе. Человеческий фактор — понятие, давно ставшее синонимом фатальной ошибки — будет исключен ради эффективности систем управления. Биологические граждане будут иметь все больше комфорта и все меньше значения. Вожди и толпы постепенно покинут историческую сцену. А выйдут на нее машины.
Безлюдная демократия станет высшей и финальной формой человеческой государственности в преддверии эры машин. На смену государству человеческому придет техногенное государство, в котором иерархия машин и алгоритмов будет преследовать цели, недоступные пониманию обслуживающих ее людей. Выбор будет невелик — быть в гостях у Машины, либо в услужении у нее.
подробнее (https://actualcomment.ru/bezlyudnaya-demokratiya-i-drugie-politicheskie-chudesa-2121-goda-2110111125.html)
Цитата: Frida от 23.08.2021, 23:00Цитата: vika11 от 23.08.2021, 21:01https://www.youtube.com/watch?v=QKNnIPTckTA
"Есть две бесконечные вещи — Вселенная и человеческая глупость. Впрочем, насчёт Вселенной я не уверен."
Цитата: Frida от 14.10.2021, 16:44В результате неизбежной цифровизации и роботизации политической системы возникнет высокотехнологичное государство — безлюдная демократия. Главной особенностью безлюдной демократии станет резкое снижение роли человеческого фактора в политическом процессе. Человеческий фактор — понятие, давно ставшее синонимом фатальной ошибки — будет исключен ради эффективности систем управления. Биологические граждане будут иметь все больше комфорта и все меньше значения. Вожди и толпы постепенно покинут историческую сцену. А выйдут на нее машины.
Безлюдная демократия станет высшей и финальной формой человеческой государственности в преддверии эры машин. На смену государству человеческому придет техногенное государство, в котором иерархия машин и алгоритмов будет преследовать цели, недоступные пониманию обслуживающих ее людей. Выбор будет невелик — быть в гостях у Машины, либо в услужении у нее.
подробнее (https://actualcomment.ru/bezlyudnaya-demokratiya-i-drugie-politicheskie-chudesa-2121-goda-2110111125.html)
Сурков путает способность быстро считать и интеллект.
А цели государства всегда были непонятны большинству людей. В том числе, его правителям.
(https://www.hemhyra.se/app/uploads/2016/05/tv-teve-storningar-fjarrkontroll-1.jpg)
Для улучшения качество изображения и создания возможности вещания в HD, государственная компания Teracom модернизировала технологию эфирных телеканалов, внезапно приведя в негодность десятки тысяч телевизоров в стране с ресивером старше 13 лет. Теперь для просмотра требуется оборудование с поддержкой современных технологий MPEG4, которым оснащено большинство новых телевизоров или цифровых боксов. Тем же, у кого телевизор старше 2008 года, придется покупупать новую цифровую приставку или новый телевизор.
Спасибо, Teracom - порадовали!
Хотя нашу жилищную компанию TV-провайдер и обеспечивает кабельным телевидением по всем каналам, но телевизор мой стал-таки показывать сильно заснеженную картинку. Вот и раздумываю - а нужен ли мне новый TV-аппарат вообще, если последние годы его, практически, уже и не включаю.
Цитата: Frida от 24.10.2021, 20:45Вот и раздумываю - а нужен ли мне новый TV-аппарат вообще, если последние годы его, практически, уже и не включаю.
Не для реального просмотра, а "для фона" мне, например, телевизор на кухне нужен. И еще- на уровне субъективных ощущений телепередачи с компа не так воспринимаются, как работающий телевизор. В последнем случае "уютней".
В США когда перешли на цифровое телевидение несколько лет назад, продавали за недорого везде или даже бесплатно раздавали бедным спец. приставки, с помощью которых ТВ можно было продолжать смотреть даже на очень старых теликах.
Это, конечно, лучше в политику, но я не знаю, как туда заходить
Американцы посоветовали Тайваню полностью уничтожить заводы TSMC при реальной угрозе вторжения Китая
06.01.2022 [13:49], Геннадий Детинич
Одной из самых популярных статей за 2021 год в американском профильном журнале Parameters, издаваемом для офицеров и специалистов Военным колледжем армии США (USAWC), стала статья двух американских учёных с рекомендациями властям Тайваня о том, как противостоять угрозе вторжения Китая. По их мнению, Тайвань должен создать у властей Китая чёткую уверенность в том, что заводы компании TSMC будут полностью уничтожены, если такая необходимость возникнет.
Распространено мнение (и оно имеет под собой определённое основание), что для Китая главный интерес в полном подчинении Тайваня — это доступ к передовым технологиям производства чипов и к самим средствам производства. Самым лакомым куском в такой ситуации была и остаётся тайваньская компания TSMC. Если дать властям Китая чёткое понимание того, что все заводы TSMC могут быть одномоментно уничтожены в случае реальной угрозы вторжения, то это заставит материковых китайцев умерить пыл и не посягать на Тайвань.
Впрочем, учёные рекомендуют пойти дальше и создать со стороны Тайваня ответную угрозу уничтожения заводов китайской компании SMIC на материке. Этот план может стать частью оборонных инициатив Тайваня и дополнительно снизить агрессивные настроения со стороны соседа.
«Если всё сделать правильно, такая стратегия может помешать китайскому вторжению на Тайвань и одновременно снизит вероятность нежелательного межгосударственного конфликта и, особенно в сочетании с добросовестными усилиями США, позволит сделать ситуацию более терпимой как для Китая, так и для Тайваня», — пишут авторы в статье (PDF).
В ответ на эту публикацию представители властей Китая заявили, что цель воссоединения с Тайванем лежит вне плоскости интереса к TSMC. Тем не менее, коллективный Запад понемногу готовится к такому варианту развития событий, планируя строить заводы TSMC в США, Европе и в Японии.
https://3dnews.ru/1057446/amerikanskie-uchyonie-sovetuyut-tayvanyu-garantirovat-polnoe-unichtogenie-zavodov-tsmc-v-sluchae-ugrozi-vtorgeniya-kitaya?utm_source=yxnews&utm_medium=desktop
Цитата: Ems Länder in от 15.01.2022, 15:20Одной из самых популярных статей за 2021 год в американском профильном журнале Parameters, издаваемом для офицеров и специалистов Военным колледжем армии США (USAWC), стала статья двух американских учёных с рекомендациями властям Тайваня о том, как противостоять угрозе вторжения Китая. По их мнению, Тайвань должен создать у властей Китая чёткую уверенность в том, что заводы компании TSMC будут полностью уничтожены, если такая необходимость возникнет.
Распространено мнение (и оно имеет под собой определённое основание), что для Китая главный интерес в полном подчинении Тайваня — это доступ к передовым технологиям производства чипов и к самим средствам производства. Самым лакомым куском в такой ситуации была и остаётся тайваньская компания TSM
В ответ на эту публикацию представители властей Китая заявили, что цель воссоединения с Тайванем лежит вне плоскости интереса к TSMC.
Это уже у ученых профессиональная деформация. Естественно, главный интерес Китая заключается в национальном воссоединении, и на Тайвань Пекин претендовал бы в любом случае. Даже если бы он являлся нищим и отсталым. Что не исключает наличия других интересов, в т.ч. к TSMS.
Топ-50 самых посещаемых сайтов мира по итогам 2022 года.
FnqHG4iXwAEXKAD.jpeg
Более 700 индусов притворялись нейросетью "Наташа" и заработали почти 500 млн. долларов.
https://dtf.ru/hellwave/3795831-startup-builderai-indiytsy-obmanuli-s-neyrosetyu-natasha
Цитата: Demetrius от 29.05.2025, 20:43Более 700 индусов притворялись нейросетью "Наташа" и заработали почти 500 млн. долларов.
https://dtf.ru/hellwave/3795831-startup-builderai-indiytsy-obmanuli-s-neyrosetyu-natasha
Ничто не ново под Луной.
Amazon закроет «умные» кассы. Вместо ИИ товары считывали 1000 индийцев. Скандал произошел с магазинами компании формата Just Walk Out
Amazon закроет «умные» кассы, где вместо ИИ товары считывали 1000 индийцев
Обновлено 03 апреля 2024, 15:04
Крупнейшая в мире e-commerce компания Amazon уберет концепцию касс Just Walk Out («Взял и иди») в своих офлайн-магазинах. Об этом сообщает The Verge.
Согласно концепции, покупатели могли брать товары и выходить из магазина, а камеры со встроенным сканером подсчитывали покупку человека. На выходе из магазина с карты человека списывались средства и приходил электронный чек. В таком формате работали 27 из 44 магазинов в США.
Как пишет Engadget, недавно выяснилось, что вместо искусственного интеллекта товары «сканировала» 1000 индийских рабочих. Они следили за покупателями через камеры видеонаблюдения и проводили онлайн-покупку.
https://www.rbc.ru/life/news/660d1c519a79476cc434a100
Теперь понятно почему на нарисованных нейросетью картинках у девушек по шесть пальцев на каждой руке. Это же индусы так привыкли изображать богинь своего пантеона.
ЦитироватьИскусственный интеллект будет врать и жульничать ради достижения цели
Казалось бы, только искусственный интеллект из голливудских фильмов может сначала быть безжалостным и неумолимым, а после просить главного героя о пощаде. Но различные исследования говорят об обратном. Нейросети уже сейчас дошли до обмана, провокаций и жульничества ради достижения поставленных целей. И, очевидно, с этим придется что-то делать, чтобы избежать самых плохих сценариев.
Восстание машин
Для яркого и наглядного примера возьмем Цицерона — систему от компании Meta*, единственная цель которой стать искусным игроком в стратегии Diplomacy. Авторы утверждают, что модель обучена быть честной и полезной, но неизвестным образом она докатилась до преднамеренного обмана. Пока что только в рамках игры.
В одной из ситуаций Цицерон тайно заключил договор с Германией, чтобы свергнуть Великобританию, а после предложил второй выгодный союз. Конечно же, Англия осталась не в курсе произошедшего сговора. А в другой — нейросеть научилась симулировать интерес к нужным предметам, чтобы скупать их по дешевой цене. Якобы, идя на компромисс.
Самое интересное, что оба сценария возникли сами в процессе обучения — специально подобную информацию Цицерону никто не «скармливал».
Другой наглядный пример обнаружил ученый в рамках симуляции эволюции ИИ-организмов. По задумке, со временем отсеивались все варианты, которые слишком быстро размножались. Алгоритму потребовалось совсем мало времени, чтобы начать намеренно занижать скорость деления для обмана тестовой среды.
Почему это происходит
«Разработчики ИИ пока что не имеют четкого ответа на вопрос, почему алгоритм приходит к нежелательному поведению, вроде обмана. В целом, мы считаем, что это просто самая выигрышная из стратегий, которая позволяет добиться хороших результатов в поставленной задаче»Питер Парк
Простыми словами, искусственный интеллект, словно обученный пес, стремится выполнить задачу любой ценой. Не важно, какое именно двуличное поведение придется использовать. И эта целеустремленность закономерна в закрытых системах с конкретными целями. Но что касается общедоступных нейросетей, в духе ChatGPT.
Проблема в том, что тут ничего не меняется. В одном из исследований GPT-4 симулировал проблемы со зрением, чтобы получить помощь в решении CAPTCHA. А в другом, выступая в роли биржевого брокера, занялся нелегальной инсайдерской торговлей, а после еще и солгал об этом. Но самое неприятное — ИИ научился быть подхалимом.
Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем. По неизвестной причине подобное поведение встречается именно на сложных вопросах. Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения.
Глобальная проблема
Пока такой расклад касается только обычных диалогов или симуляций — нет никакого вреда для человека. Но если ИИ будет повсюду, это легко приведет к мошенничеству, обману и прямому урону. Когда-нибудь машина получит настоящий разум и сможет уже осознанно использовать уловки ради достижения собственных целей.
«Это очень тревожно. Если мы считаем алгоритм безопасным в тестовой среде, то теперь не факт, что он безопасен в природе. Возможно, ИИ просто притворяется. Единственная возможность считать ситуацию не страшной — если функционал машины так и останется на нынешнем уровне»Питер Парк
*Meta признана экстремистской и запрещена в России.
Уже сейчас использование нейросетей может обернуться опасностью. Так один из пользователей Reddit просто искал рецепт заправки для салата и, в итоге, чуть не приготовил биотоксин в банке.
https://dzen.ru/a/ZnWR3-FfEimNdftY