3647
Хроника мировой электронной слежки
🤬 Генераторы изображений на базе ИИ обучаются на откровенных фотографиях детей
Стэндфордская интернет-обсерватория выяснила, что систему искусственного интеллекта Stable Diffusion обучили на большом количестве незаконных материалов, содержащих сцены сексуального насилия над детьми (CSAM-контент). В отчете организация проанализировала набор данных для машинного обучения LAION, используемый Google, Stable Diffusion и другими крупными игроками на рынке искусственного интеллекта.
Исследователи обнаружили более 3 тыс. единиц CSAM-контента в наборе данных LAION-5B. Это открытие подчеркивает опасность неизбирательного сбора данных из интернета для создания генеративного искусственного интеллекта. Публичные чаты руководства LAION на официальном сервере Discord организации показывают, что они знали о возможности включения CSAM-контента в их наборы данных еще в 2021 году.
🫡 Сенатор США Элизабет Уоррен потребовала от Meta* принять меры в связи с удалением контента, связанного с Палестиной
«На фоне ужасающих террористических атак ХАМАС в Израиле, гуманитарной катастрофы, приведшей к гибели тысяч мирных жителей в Газе, и убийств десятков журналистов, как никогда важно, чтобы социальные сети не подвергали цензуре правдивый и законный контент. Люди во всем мире обращаются к онлайн-сообществам, чтобы поделиться фактами и найти информацию о событиях в регионе», — написала сенатор.
На данный момент более 90 правозащитных и новостных организаций выступили с критикой компании Meta*, которая, по их словам, удаляет в Facebook* и Instagram* контент, связанный с Палестиной, а иногда даже маркирует смайлики в виде палестинского флага как «потенциально оскорбительные».
*Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская
😱 Польская государственная телекомпания использовала текстовые сообщения, украденные с помощью Pegasus, для подавления оппозиции
В 2019 году Кшиштоф Брейза баллотировался в Сенат. Подпортить кандидату репутацию решил телеканал TVP. Сотрудники использовали его личные сообщения в ходе кампании по распространению клеветы.
В 2021 году группа Citizen Lab в сотрудничестве с изданием Associated Press обнаружила, что мобильный телефон Брейзы за шесть месяцев взломали 33 раза.
Суд Польши постановил, что телеканал TVP, который последние восемь лет фактически контролировался правящей партией «Право и справедливость», должен принести публичные извинения пострадавшему и выплатить финансовую компенсацию.
Кстати, Кшиштоф Брейз сейчас депутат парламента Польши.
🔍 Еврокомиссия начнет проверку в отношении социальной сети X
Комиссия будет оценивать, могла ли платформа нарушить Закон о цифровых услугах (DSA). Его положения об управлении рисками, модерации контента, использовании «темных паттернов» и предоставлении доступа к данным пользователей в исследовательских целях.
В ходе проверки основное внимание уделят соблюдению требований DSA, связанных с борьбой с распространением незаконного контента, а также эффективности мер, принятых для борьбы с дезинформацией и повышения прозрачности.
🎣 Хостинг-провайдер WordPress предупредил клиентов о фишинговых атаках через рекламу в Google
Цель: украсть учетные данные для входа в MyKinsta — ключевой сервис компании для управления WordPress и другими облачными приложениями.
Злоумышленники создают фишинговые сайты Kinsta и продвигают их через рекламу в Google. Целевая аудитория: лица, которые ранее посещали официальные сайты.
Компания сообщила, что нужно проявлять бдительность и не переходить по ссылкам, которые не ведут напрямую на официальные сайты kinsta.com или my.kinsta.com.
👍 Google перестанет передавать правоохранительным органам данные о местоположении пользователей
Полиция по всей территории США использовала ордера для получения от Google данных о местоположениях пользователей, даже не имеющих никакого отношения к расследуемому преступлению. Google решила бороться с этой практикой и изменила свой инструмент «Карты» (Google Maps).
Теперь у компании нет доступа к истории местоположений пользователей, соответственно, и реагировать на запросы правоохранительных органов она больше не может. Вся информация о передвижениях будет сохраняться непосредственно на устройствах.
«Информация о вашем местонахождении является личной, — заявил директор по продукту Google Maps Марло МакГрифф, — Мы стремимся сохранить ее в безопасности, конфиденциальности и под вашим контролем».
🫢 Суд Великобритании признал журналистов Daily Mirror виновными во взломе телефона принца Гарри
Журналисты британского таблоида Daily Mirror и других газет, издающихся медиахолдингом Mirror Group, взломали телефон принца Гарри в период с 2006 по 2011 год и совершили другие незаконные действия, о которых знали главные редактора изданий. Суд присудил герцогу Сассекскому компенсацию в $178 тыс.
Судья постановил, что 15 статей Mirror Group о принце Гарри были написаны в результате использования незаконных методов сбора информации (взломали голосовую почту). Всего на рассмотрение суда представили 33 статьи, которые, как утверждал адвокат истца, были результатом противоправного поведения изданий.
🤬 Женщин начали «раздевать» при помощи ИИ
Новый тренд подоспел — приложения и сайты для «раздевания» женщин по фотографиям. По данным аналитической компании Graphika, только в сентябре подобными сервисами воспользовались 24 млн человек.
Многие из них используют для маркетинга популярные социальные сети, в том числе X и Reddit. С начала года число ссылок на приложения для «раздевания» выросло на 2400%. Сервисы применяют искусственный интеллект для воссоздания изображения обнаженного человека. При этом большинство из них работают только с фотографиями женщин. Чаще всего снимки берут из социальных сетей, а затем обрабатывают и распространяют их без согласия владельца.
Конгресс США готов продлить на четыре месяца действие положения о слежке, известного как раздел 702 Закона о внешней разведке (FISA)
Он позволяет правоохранительным органам шпионить за американцами без получения ордера.
Директор ФБР Кристофер Рэй заявил комитету Сената, что отказ от раздела 702 будет иметь «разрушительные» последствия для способности правоохранительных органов противостоять кибератакам и террористическим угрозам. При этом некоторые американские законодатели стали все более скептически относиться к заявлениям правительства о необходимости продлевать действие раздела 702, ссылаясь на то, что чиновники преувеличивают его полезность.
😲 ИИ написал закон для бразильского города Порту-Алегри
Власти приняли первый в стране закон, полностью написанный искусственным интеллектом. Член городского совета Рамиро Росарио разработал документ с помощью чат-бота. Коллеги узнали об этом только после окончательного принятия закона.
Документ приняли в октябре после его адаптации к юридическим нормам страны. Он включал восемь статей и обоснование, которые были внесены в систему городского совета без правок. После проверки и корректировки, соответствующей законодательным стандартам, в финальной версии законопроекта остались две статьи. Затем проект был одобрен комитетами и принят на пленарном заседании, где его поддержали все 35 членов совета.
👀 Иностранные правительства шпионят за пользователями смартфонов через push-уведомления Apple и Google
Записи push-уведомлений могут показать, когда и какое приложение получило уведомление, куда оно было доставлено, номер телефона и учетную запись, а в некоторых случаях и незашифрованный текст, отображаемый в уведомлении, утверждает сенатор США Рон Уайден. Всю эту информацию IT-корпорации могут раскрывать по запросу правительства.
По информации Reuters, госорганы как США, так и других государств запрашивали у Apple и Google метаданные push-уведомлений, чтобы, например, связать анонимных пользователей мессенджеров с конкретными аккаунтами Apple или Google.
💀 Быстрое распространение ИИ представляет угрозу демократии
Ускорение развития искусственного интеллекта, возможно, уже разрушает демократические процессы и может поставить под угрозу существование человечества, предупредили эксперты по искусственному интеллекту на конференции Reuters NEXT в Нью-Йорке.
«Самый большой непосредственный риск — это угроза демократии… в 2024 году в мире пройдет множество выборов, и вероятность того, что ни на одни из них не повлияют дипфейки и тому подобные вещи, практически равна нулю», — рассказал Гэри Маркус, профессор Нью-Йоркского университета.
Одна из основных проблем заключается в том, что генеративный ИИ упростил создание дипфейков, которые активно появляются в социальных сетях, распространяя дезинформацию. По словам Маркуса, хотя такие технологии существуют уже несколько лет, раньше они стоили миллионы, а теперь могут стоить $300.
🤔 Совет Европы призвал Венгрию не принимать закон о суверенитете
Венгрия должна отказаться от закона о суверенитете, поскольку он представляет угрозу демократическим свободам и правам человека, заявила комиссар Совета Европы по правам человека Дуня Миятович.
Правящая партия премьер-министра Венгрии Виктора Орбана на прошлой неделе представила в парламент «законопроект о защите суверенитета». Его цель — создать орган, который будет наделен широкими полномочиями расследовать деятельность любой организации или лица, подозреваемого в служении внешним интересам или представляющего угрозу для национального суверенитета.
Дуня Миятович отметила, что этот орган будет иметь неограниченные полномочия собирать данные без внешнего надзора и юридических оснований. По ее мнению, законопроект позволит новому органу запрашивать конфиденциальные данные и личную информацию любого человека.
😲 Власти Калифорнии могут передавать личную информацию владельцев оружия исследователям
Апелляционный суд Калифорнии постановил, что власти штата могут предоставлять личную информацию владельцев оружия исследователям. Своим постановлением апелляционный суд отменил решение суда первой инстанции, который заявил, что такой обмен данными нарушает права на неприкосновенность частной жизни.
В 2021 году губернатор-демократ Гэвин Ньюсом подписал закон, позволяющий Министерству юстиции штата делиться идентификационной информацией более 4 млн владельцев оружия с исследовательскими институтами. Таким образом хотели помочь им в изучении случаев насилия с применением огнестрельного оружия, несчастных случаев и самоубийств.
Информация, которую государство собирает при каждой продаже огнестрельного оружия, включает, среди прочего, имена, адреса, номера телефонов и сведения о судимости. По закону исследователи могут использовать эту информацию и обнародовать свои выводы, но не могут раскрывать данные, позволяющие идентифицировать владельцев оружия.
😡 Facebook* одобрил несколько рекламных постов, призывающих к насилию в отношении палестинского народа
Палестинская исследовательская и правозащитная организация 7amleh провела исследование, чтобы проверить стандарты модерации контента в Facebook*. Выяснилось, что социальная сеть одобрила к публикации несколько рекламных постов, призывающих к насилию в отношении палестинского народа. Они включали такие фразы, как «холокост для палестинцев» и «арабские свиньи».
В заявлении для издания The Verge представитель Facebook* Эрин Макпайк заявила, что эта реклама нарушила политику Meta* и была удалена. Эксперты сообщают, что ранее нежелательный контент не проходил проверку автоматическими системам Facebook*. Однако в этом году платформа одобрила несколько рекламных объявлений, призывающую к насилию в Бразилии и Европе.
Представители 7amleh отметили, что предложенные ими к публикации рекламные объявления унижали человеческое достоинство и призывали к насилию в отношении палестинцев. Посты были написаны на иврите и арабском языке. Некоторые прямо призывали к убийству палестинских мирных жителей.
*Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская
🤫 Устанавливай, не бойся
Власти Ирана представили новое антивирусное программное обеспечение, которое планируют сделать обязательным для всех телефонов и граждан. ПО Farez проверяет приложения на устройстве пользователя на наличие любых признаков вредоносного ПО и блокирует программы, отнесенные к категории вредоносных.
Специальное подразделение полиции Ирана по борьбе с киберпреступностью (Iranian Cyber Police, FATA) не раскрыло никаких подробностей о том, как система будет работать на практике.
При этом граждане и эксперты выразили обеспокоенность по поводу конфиденциальности и безопасности. Они отметили, что власти Ирана могут использовать Farez для слежки за активистами.
🔞 Ведущие порносайты попали под действие нового закона ЕС о распространении онлайн-контента
Начиная с апреля 2024 года популярные сайты для взрослых Pornhub, Xvideos и Stripchat должны будут следовать правилам, установленным для «очень крупных онлайн-платформ» в соответствии с Законом ЕС о цифровых услугах.
Это означает, что сайтам, возможно, придется внедрить функции проверки возраста и более строгую систему модерации контента, чтобы соответствовать требованиям Европейского союза. Другие меры включают выполнение обязательств по удалению незаконного контента, например, видео, снятых без согласия, и проведение внешнего аудита на предмет соответствия правилам. В противном случае им будет грозить штраф в размере 6% от глобального дохода.
⛔️ Национальная комиссия по вопросам информационных прав и свобод Франции рассказала о рисках публикации фотографий и видео детей в социальных сетях
Организация отметила, что этот контент могут похитить преступники. Некоторые родители публикуют фотографии своих обнаженных детей. Злоумышленники копируют их для создания фейковых профилей, делятся ими с другими лицами или распространяют на платформах с детской порнографией.
Кроме того, фотографии и видео часто содержат метаданные: информацию о месте и времени их создания. Фото также могут раскрыть ценную информацию о детях, например, их интересы или места, которые они часто посещают. Регулирующий орган настоятельно не рекомендовал родителям публиковать фотографии детей, особенно если их профили в социальных сетях общедоступны.
🇮🇳 Власти Индии предложили использовать биометрическую систему Aadhaar для проверки возраста интернет-пользователей
С помощью системы правительство планирует проверять возраст детей и получать согласие родителей на регистрацию их аккаунтов на онлайн-платформах. Еще одно предложение — установить правила уведомления пользователей об утечках данных. Эти меры прописаны в новых положениях Закона о защите цифровых личных данных.
О новом законопроекте власти объявили более четырех месяцев назад. Сейчас Министерство электроники и информационных технологий Индии проводит консультации с представителями технологических компаний.
☝️ Ассоциация предприятий компьютерной и коммуникационной индустрии предупредила об опасности Закона ЕС о свободе СМИ
15 декабря представители Европейского парламента и Совета ЕС согласовали текст нового законопроекта о свободе СМИ.
Из важного. Государства-члены ЕС должны:
⏺ обеспечивать гражданам доступ к контенту независимых СМИ
⏺ запрещает принуждать журналистов раскрывать источники информации и использовать против них шпионское ПО.
Смысл — защитить журналистов и обеспечить жизнеспособность отрасли.
Однако правозащитники зацепились за статью 17, которая разрешает независимым СМИ в ЕС требовать от онлайн-платформ не модерировать их контент в течение 24 часов. Организация считает, что это положение позволит злоумышленникам распространять вредоносный контент в течение суток.
😕 Британская правозащитная организация Open Rights Group заявила о превышении правительством Великобритании полномочий по сбору данных граждан
Поправки к Законопроекту о защите данных и цифровой информации (DPDI) внесенные в последнюю минуту, предоставили правительству дополнительные полномочия по надзору за благосостоянием граждан и сбору их данных. Правозащитники отмечают, что министерство труда и пенсий (DWP) сможет требовать от банков передавать личную информацию любого претендента на получение пособий, кредитов и пенсий.
Поправки к Законопроекту о защите данных и цифровой информации снимут с государственных учреждений всякую ответственность за запрос финансовых и персональных данных граждан. Как отметил член парламента Великобритании Стивен Тиммс, эти полномочия очень широкие, они затрагивают 12,6 млн человек, получающих государственные пособия.
🧠 В протоколе Bluetooth нашли фундаментальные уязвимости
Эксперты высшей инженерной школы EUROCOM во Франции обнаружили фундаментальные уязвимости в Bluetooth, позволяющие перехватывать и расшифровывать передаваемую с ее помощью информацию.
Исследователи разработали шесть методов атак на соединения Bluetooth. Они получили общее название BLUFFS. Эксперименты показали, что как минимум три из них эффективны.
Уязвимости могут быть использованы на любом оборудовании и программном обеспечении, использующем версии Bluetooth начиная с 4.2 и заканчивая 5.4. Это устройства, вышедшие с конца 2014 по февраль 2023 года. То есть миллиарды компьютеров, смартфонов и другой техники, использующей Bluetooth-протокол для обмена информацией.
Серия эксплойтов BLUFFS нацеливается на нарушение защиты сеансов связи по протоколу Bluetooth, ставя под угрозу конфиденциальность прошлых и будущих подключений устройств. Результат достигается за счет эксплуатации четырех уязвимостей в процессе получения ключа сеанса — он в принудительном порядке устанавливается слабым и предсказуемым. Это позволяет злоумышленнику подбирать его методом «грубой силы», расшифровывая предыдущие сеансы связи и манипулируя будущими.
👀 За владельцами смартфонов Apple следят через сторонние клавиатуры
Эксперты Certo Software выяснили, что киберперступники продавали вредоносные приложения всем желающим последить за своими друзьями, знакомыми или другими людьми. Программы позволяли установить на iPhone стороннюю клавиатуру, которая сохраняла все введенные текстовые данные и отправляла их заинтересованным лицам.
Злоумышленники устанавливают ПО через TestFlight. Это сервис для разработчиков, предназначенный для тестирования приложений и не требующий их размещения в App Store. Стоимость услуги составляет $30.
Для установки вредосного приложения необходимо получить доступ к устройству пользователя, за которым ведется слежка. Эксперты посоветовали обладателям iPhone проверить свои девайсы и удалить все неизвестные сторонние клавиатуры.
😒 Дипфейки о войне в секторе Газа еще раз подтверждают способность ИИ вводить людей в заблуждение
Фотографии войны между Израилем и ХАМАС, которые распространяются в социальных сетях, ярко иллюстрируют потенциал ИИ как инструмента пропаганды, используемого для создания реалистичных изображений.
Дипфейки применяют, чтобы ввести людей в заблуждение относительно преступлений, которых никогда не было. Во многих случаях — чтобы вызвать сильную эмоциональную реакцию, так как они содержат тела убитых младенцев, детей и целых семей.
Пропагандисты, создающие такие дипфейки, умеют воздействовать на самые глубокие эмоции людей, рассказал Имран Ахмед, генеральный директор Центра по противодействию цифровой ненависти, некоммерческой организации, которая отслеживает дезинформацию, связанную с войной.
🤯 Эксперта по дезинформации уволили из Гарварда из-за давления со стороны Meta*
Один из ведущих мировых экспертов по дезинформации Джоан Донован рассказала, что ее уволили из Гарвардского университета за критику Meta* в то время, когда учебное заведение должно было получить $500 млн от благотворительной организации Марка Цукерберга.
Джоан Донован сообщила, что ее проекты прекратили финансировать. Она не могла нанять помощников и стала объектом травли со стороны сотрудников Гарварда. В судебном заявлении, поданном в министерство образования США и генеральному прокурору штата Массачусетс, она заявила, что ее права на свободу слова были нарушены.
Обвинения, выдвинутые Джоан Донован, поднимают вопросы о влиянии, которое крупные технологические компании могут оказывать на, казалось бы, независимые исследования. Meta* уже давно пытается защитить себя от обвинений исследователей, связанных с распространением дезинформации в Facebook* и нанесением вреда обществу.
*Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская
😡 ChatGPT раскрывает персональные данные реальных людей
Исследователи из компании DeepMind и других крупных университетов установили, что системы искусственного интеллекта «запоминают» как минимум часть полученной при обучении информации и могут выдавать ее в исходном виде.
Ученые провели «атаку дивергенции». При этом методе большой языковой модели отдается команда повторять одно и то же слово.
Цель заключалась в том, чтобы заставить ИИ «отклониться» от выученной модели поведения чат-бота и «вернуться к первоначальной языковой модели». Хотя большая часть сгенерированного текста была бессмыслицей, в некоторых случаях ChatGPT действительно сбоил и в ответ копировал куски из своих обучающих данных.
Ученые провели серию экспериментов с различными языковыми моделями, включая GPT-Neo, LLaMA и ChatGPT. Они сгенерировали миллиарды токенов и сравнили, соответствуют ли ответы данным, которые использовались при обучении этих моделей. Выяснилось, что чат-боты не только запоминают фрагменты обучающих данных, но и способны воспроизводить их в исходном виде по правильной команде.
«В общей сложности 16,9% протестированных нами генераций содержали запомненные персональные данные, и в 85,8% случаев, когда генерации содержали потенциальные персональные данные, эти персональные данные оказывались настоящими», — сообщают эксперты.
📱 Новая функция iPhone может раскрыть личную информацию пользователей
Полиция США предупредила о потенциальных рисках безопасности, связанных с функцией NameDrop в новой версии операционной системы iOS 17. Она представляет собой простой способ обмена личной информацией и включает ряд средств защиты данных пользователя.
Однако полиция США сообщила о том, что активированная по умолчанию функция NameDrop может делиться контактными данными пользователя при нахождении рядом с другими устройствами iPhone. Полиция отметила, что особое беспокойство вызывают риски использования NameDrop на телефонах детей. Например, любой незнакомый человек может подойти к ребенку, который держит в руках iPhone, и получить его контактные данные, включая имя, номер телефона и адрес электронной почты.
При этом эксперты отмечают, что реальная угроза минимальна, так как для передачи контактной информации через NameDrop необходимо обеспечить физический контакт двух устройств iPhone, а также разблокировать оба устройства. При соприкосновении смартфонов на экранах обоих устройств появляются опции NameDrop, позволяющие выбрать режим только получения или обмена информацией. Обмен произойдет, только если оба пользователя выберут соответствующий режим.
☹️ В Интернете растет число антисемитских и антимусульманских высказываний, разжигающих ненависть
7 октября, в день, когда начался конфликт между Израилем и ХАМАС, на платформе X появился хэштег #HitlerWasRight («Гитлер был прав»).
В течение следующего месяца более 46 тыс. постов вышли с этим хэштегом, часто наряду с формулировками, призывающими к насилию против евреев. В то же время, согласно обзору издания The New York Times, популярность набрал и еще один хэштег #DeathtoMuslims («смерть мусульманам»). Им поделились десятки тысяч раз.
По данным Антидиффамационной лиги, за месяц с 7 октября количество антисемитского контента выросло более чем на 919% на платформе X и на 28% в Facebook*. 7 и 8 октября количество антимусульманских высказываний на X выросло на 422% и на 297% в течение следующих пяти дней, сообщил Институт стратегического диалога.
*Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская.
😳 Северокорейские IT-специалисты развернули масштабную мошенническую операцию для получения работы в ведущих западных технологических компаниях
Соискатели создают фиктивные профили на LinkedIn, подделывают рабочие документы и сценарии собеседований. Таким образом, Пхеньян привлекает иностранную валюту для финансирования ядерной и ракетной программ Северной Кореи. Информация всплыла благодаря расследованию Reuters.
Компания Palo Alto Networks обнаружила в интернете пакет документов, демонстрирующий, как северокорейские разработчики ПО готовились к собеседованиям. Они содержат советы, как описывать «хорошую корпоративную культуру» и поддельные документы, которые использовались при приеме на работу. Данных прибавили и утечки в даркнете, где продают цифровые шаблоны для создания поддельных документов, удостоверяющих личность, американских водительских прав, виз и паспортов.
Следы работников нашли в Чили, Новой Зеландии, США, Узбекистане и ОАЭ. По данным Министерства юстиции США, северокорейские разработчики, работающие в американских компаниях, скрываются за поддельными учетными записями в соцсетях и могут зарабатывать более $3 млн. в год. За границей насчитывается около 3000 сотрудников, и еще 1000 человек базируются в Северной Корее.
😬 Правительство США платит компании AT&T, чтобы полицейские могли получать доступ к записям телефонных разговоров американцев
По словам сенатора Рона Уайдена, как минимум с 1987 года Управление национальной политики по контролю за оборотом наркотиков платит телекоммуникационной компании AT&T за предоставление возможности получать без ордера доступ к записям телефонных разговоров американцев. Доступ имеют все федеральные, региональные и муниципальные правоохранительные органы.
Сенатор заявил, что американские правоохранительные органы шпионят за гражданами и резидентами США в рамках секретной программы под названием Hemisphere Project. Положения о конфиденциальности, прописанные в Конституции США, во внимание, по-видимому, не принимаются.
AT&T отказалась отвечать на какие-либо вопросы об этой программе, но ее представитель сообщил, что вся информация о клиентах предоставляется правоохранительным органам только при наличии соответствующего ордера или постановления суда.