Robocounsel

25 Aug 2024 18:47

Картография исков о нарушении исключительных прав против ИИ-компаний в США

На сегодня их 29, а в пдф-версии есть гиперссылки.

Robocounsel

05 Aug 2024 18:19

Запись вебинара: Мифы и заблуждения по поводу Регламента ЕС по ИИ

В этом выпуске рассказываю о том, как многие ошибаются в том, какие системы подпадают под действие Регламента и как эти системы классифицируются.

На английском.

Robocounsel

31 Jul 2024 15:41

Автоматизация договоров и ЮНСИТРАЛ

Запись вчерашнего эфира с Николаем Дмитриком

Robocounsel

26 Jul 2024 13:23

Напомню о своём руководстве по подготовке к CIPP/E

Давно не писал об этом: после успешной сдачи этого экзамена (квалификация по работе с персональными данными в ЕС) в 2022 году я сделал пособие, помогающее сэкономить время и повысить шансы на сдачу.

Его с той поры приобрели почти под сотню человек из разных стран, и у меня на него не было ни одного отрицательного отзыва.

Более того, мы сделали сообщество, где вы можете скооперироваться и готовиться вместе.

Если хотите сдать этот экзамен и интересуетесь пособием — пишите.

Robocounsel

17 Jul 2024 19:05

Мой клиент первым в мире получил сертификат соответствия по стандарту ИСО/МЭК 42001:2023 на платформу AI Governance

Ранее в этом году я помог им расписать требования и контроли по этому стандарту на их платформе. Так, чтобы пользователи платформы могли использовать её как гавернанс-инструмент и в будущем подтвердить соответствие своих ИИ-систем этому стандарту (AI Management System). Стандарт международный и не привязан к специфике какой-либо конкретной страны.

И вот, на этой неделе мой клиент получил сертификат соответствия: независимый орган подтвердил, что платформа покрывает требования этого стандарта. Это, насколько мне известно, первая в мире сертификация подобного программного продукта по этому новому стандарту.

Всегда приятно внести подобный вклад в успех моих клиентов и помогать им разрабатывать свои услуги и продукты в соответствии с развивающейся цифровой политикой и техническими стандартами.

Если вы занимаетесь разработкой ИИ-систем или юртех-продуктов и тоже хотите быть в лидерах, а не аутсайдерах рынка — пишите :)

Robocounsel

15 Jul 2024 16:27

Гамбургский орган по защите данных высказался о применимости GDPR к большим языковым моделям (LLM)

Выводы можно распространить более широко на любые ИИ-модели.

По мнению надзорного органа:

1) Обучение ИИ-модели на персональных данных должно соответствовать GDPR.

Вместе с тем, следует разграничивать законность обработки персональных данных в процессе обучения модели и законность применения модели в итоговой ИИ-системе.

2) ИИ-модель сама по себе не содержит персональных данных, поэтому само по себе хранение модели не является обработкой персональных данных.

В то же время, ИИ-система, в которую интегрируется модель, может обрабатывать персональные данные. В этом случае GDPR применяется к такой обработке в этой системе, и в особенности к получению результатов при помощи такой системы.

3) Права субъектов персональных данных, такие как право доступа, удаления или исправления персональных данных, не применяются к данным, хранимым в ИИ-модели.

Однако они применяются к обработке входных данных, поступающих в эксплуатируемую ИИ-систему, за которую отвечают поставщик (provider) и эксплуатант (deployer), и к результатам работы ИИ-системы.

О разграничении между моделью и системой см. мои предыдущие посты. Например, этот.

Классический пример: GPT-4 — это ИИ-модель, а ChatGPT — это ИИ-система, в которую указанная модель интегрирована.

Robocounsel

09 Jul 2024 14:04

Худшие практики продвижения лучших практик

Скандалы, интриги, расследования — показать всё, что скрыто: в серии публикаций под эгидой EDPB вышла одна, вызвавшая недоумение наиболее внимательных коллег.

В брошюре, продвигающей предложение о том, как сделать применение ИИ более прозрачным, список использованной литературы представляет собой почти полностью галлюцинации ЧатГПТ. Использование которого — надо отдать автору должное — раскрыто, но при этом заявлено, что роль инструмента заключалась лишь в переформатировании списка по определённому стандарту цитирования.

То ли ЧатГПТ не справился с переформатированием, то ли его роль была не только и не столько в переформатировании, сколько в придумывании несуществующей литературы.

Вот что бывает, когда публикация выходит без перепроверки и рецензирования.

Robocounsel

05 Jul 2024 22:04

Немного пятнично-вечернего юмора

Robocounsel

05 Jul 2024 07:44

Onlife Manifesto стал самой популярной книгой Шпрингер

Редактор, Лучано Флориди, сообщил о том, что книгу скачали более миллиона раз.

Из описания:

"Каково влияние информационных и коммуникационных технологий (ИКТ) на положение человека? Чтобы ответить на этот вопрос, в 2012 году Европейская комиссия организовала исследовательский проект под названием "Инициатива Onlife: реинжиниринг понятий для переосмысления проблем общества в условиях цифрового перехода". В этом томе собраны результаты инициативы: исследуется, как развитие и широкое использование ИКТ радикально влияет на положение человека.

ИКТ — это не просто инструменты, а скорее социальная сила, которая всё больше влияет на наше самовосприятие (кто мы), наши взаимодействия (как мы социализируемся), наше представление о реальности (наша метафизика) и наше взаимодействие с реальностью (наша деятельность). В каждом случае ИКТ имеют огромное этическое, правовое и политическое значение, которое мы начали осознавать совсем недавно.

Влияние ИКТ обусловлено, по крайней мере, четырьмя основными преобразованиями: стиранием различий между реальностью и виртуальностью; стиранием границ между человеком, машиной и природой; переходом от дефицита информации к её изобилию; и переходом от главенства отдельных вещей, свойств и бинарных отношений к главенству взаимодействий, процессов и сетей.

Такие преобразования подвергают испытаниям основы нашего понятийного аппарата. Наш нынешний понятийный инструментарий уже не подходит для решения новых задач, связанных с ИКТ. Это не только является проблемой само по себе. Это еще и риск, поскольку отсутствие четкого понимания специфики настоящего времени может легко привести к негативным прогнозам на будущее. Поэтому цель "Манифеста" и всей книги, в которой он представлен, — внести вклад в обновление нашей философии. Это конструктивная цель. Книга призвана стать позитивным вкладом в переосмысление философии, на которой строится политика в гиперсвязанном мире, помочь нам понять проблемы, связанные с ИКТ, и найти удовлетворительные решения.

Манифест даёт старт открытой дискуссии о влиянии ИКТ на общественное пространство, политику и ожидания общества в отношении разработки такой политики в рамках Цифровой повестки для Европы. В более широком смысле, он помогает задуматься о том, как гиперсвязанный мир требует переосмысления базовых принципов, на которых строится политика".

Скачать бесплатно можно здесь.

Robocounsel

03 Jul 2024 16:33

Человеческие и организационные факторы при управлении рисками ИИ

Такой семинар прошёл вчера в Национальных академиях наук, инженерии и медицины США.

Основа для обсуждения — популярная методология риск-менеджмента в ИИ Национального института стандартов и технологий (NIST AI RMF 1.0).

Темы семинара:
1. Расширение круга стейкхолдеров, участвующих в проектировании и разработке ИИ
2. Оценка, тестирование и надзор
3. Безопасность в контексте: культура, процессы, методология

Запись доступна здесь.

Robocounsel

01 Jul 2024 17:49

Как GDPR повлиял на инновации?

Статья в журнале Industry and Innovation исследует ситуацию в Германии и ставит под сомнение упрощённые ответы на данный вопрос ("Всё плохо"), показывая более сложную картину.

Исследование показало, что вступление в силу Общего регламента ЕС по защите данных (GDPR) привело к существенному сдвигу от радикальных инноваций к постепенным улучшениям в продуктах и услугах.

Это объясняется тем, что компании были вынуждены пересмотреть свои ИТ-процессы и управление данными для соответствия новым требованиям.

Хотя эти изменения потребовали дополнительных ресурсов, они также создали новые возможности для улучшения существующих продуктов и услуг на основе более эффективного использования данных. В то же время, дополнительные ресурсы, необходимые для соблюдения GDPR, ограничили способность компаний разрабатывать совершенно новые продукты.

Влияние GDPR оказалось различным в зависимости от размера, сектора деятельности и возраста организаций.

Эффекты от GDPR (как положительные, так и отрицательные) чаще ощущали на себе крупные компании, чем малые, независимо, однако, от срока их существования на рынке.

Положительное влияние GDPR чаще наблюдалось в секторах ИКТ и консалтинга, в то время как негативное влияние было более заметно в инженерных и финансовых услугах, а также в торговле.

Компании, не затронутые GDPR в своей инновационной деятельности, чаще встречались в ряде производственных отраслей с низкой интенсивностью НИОКР (пищевая, лёгкая, лесобумажная промышленность и металлургия), а также в строительстве и транспортных услугах.

Robocounsel

28 Jun 2024 12:18

Французский антимонопольный орган оценил ситуацию на рынке генеративного ИИ

По итогам исследования и публичной консультации Autorité de la concurrence сегодня опубликовало свое заключение по этому сектору.

Из анонса:

"Основное внимание в заключении уделяется стратегиям, реализуемым крупными цифровыми игроками для укрепления своего влияния на рынке в самом верху цепочки создания стоимости экосистемы генеративного ИИ (на этапах разработки, обучения и кастомизации больших языковых моделей) и для использования этого влияния для роста в этом быстрорастущем секторе.

В заключении также рассматриваются инвестиции в акционерный капитал и партнерства крупных цифровых игроков, в частности в инновационные компании, специализирующиеся на генеративном ИИ.

💻 В заключении показано, что доступ этих крупных цифровых компаний к ключевым ресурсам для развития генеративного ИИ (вычислительные мощности, большой объем данных, профильные специалисты) дает им огромное преимущество перед конкурентами. Это преимущество усиливается их участием по всей цепочке создания стоимости и на смежных рынках, что не только создает эффект экономии на масштабе и диверсификации их вовлечённости, но и гарантирует им доступ к критической массе пользователей.

Риски для конкуренции, вероятно, возникают по всей цепочке создания стоимости, а также на смежных рынках, как показывает интеграция инструментов генеративного ИИ в некоторые устройства, например смартфоны.

✅ Исследование также анализирует ключевые возникающие проблемы, такие как вознаграждение за контент, значимость приобретения крупными цифровыми игроками долей в стартапах, устранение некоторых барьеров для входа на рынок с помощью технологий с открытым исходным кодом, а также практики, которые могут сложиться на рынке труда. Внимание требуется и в вопросе потенциальных новых барьеров для входа на этот рынок ввиду повышения порога требуемых для этого энергоресурсов и ввиду вертикальной интеграции определенных игроков.

В качестве итога антимонопольный орган дает 🔟 рекомендаций, направленных на стимулирование конкурентной динамики сектора генеративного ИИ, в частности, касающихся нормативно-правовой базы, применимой к этому сектору, инструментов антимонопольного регулирования и предотвращения недобросовестной конкуренции, вычислительных мощностей, вознаграждения правообладателей, а также участия в капитале ИИ-компаний со стороны цифровых гигантов."

Robocounsel

25 Jun 2024 12:19

Готовимся к Регламенту ЕС по ИИ

Последний шанс записаться на мой вебинар по этой теме, который пройдёт в пятницу, 28 июня, в 18.00 МСК / 17.00 CEST, на английском.

Полное описание и регистрация здесь.

Для подписчиков канала скидка 30% по промокоду ROBOCOUNSEL. Для подписчиков моих платных групп CIPP/E или AI Governance дополнительная скидка — детали смотрите в этих группах. При необходимости оплаты в рублях пишите мне через бот.

Robocounsel

19 Jun 2024 12:55

Индекс ответственного ИИ

Вышло новое, но странноватое исследование, пытающееся дать объективные метрики по тому, насколько ответственно разрабатывается и применяется искусственный интеллект в разных странах.

Ещё не прочитал его до конца, поэтому не хотел пока делиться, но вижу, что люди уже начали его обсуждать. Поэтому прокомментирую пока то, что бросилось в глаза из странного:

1) В числе опрошенных локальных экспертов есть уважаемый Иван Бегтин, но никаких данных по России в итоге нет. Возможно, Ивана опрашивали не по России, но в общем и целом ситуация странная. Спросить одного из ведущих российских экспертов, но ничего не включить в отчёт — это мне совершенно не понятно.

2) США у них почти впереди планеты всей по соблюдению прав человека в ИИ. Серьёзно? Это ИИ Акт в США приняли? Или это не там раздробленное по штатам и тематическое фрагментарное регулирование ИИ и данных, фокус которого на экономических свободах (что само по себе неплохо), но никак не на правах человека?

Robocounsel

17 Jun 2024 15:23

Как юристам использовать генеративный ИИ?

Поскольку простой ответ "никак" вряд ли отвечал бы политике корпоративных продаж Майкрософта, они сделали презентацию на эту тему (во вложении).

А если кроме шуток, то посмотреть стоит. Но прежде чем вы устремитесь реализовывать всё там предложенное в своей работе, рекомендую посмотреть запись моего вебинара, где я описываю и возможности, и болевые точки применения генеративного ИИ в целом.

Версия на английском доступна здесь, версия на русском доступна по запросу. Также открыт для индивидуальных консультаций.

Robocounsel

15 Aug 2024 15:21

Обновлён проект директивы ЕС об ответственности за причинение вреда ИИ-системами (AILD)

Проект директивы касается внедоговорных требований из причинения вреда, предъявляемых к поставщикам и эксплуатантам ИИ-систем, и устанавливает:
- требования о раскрытии ответчиком доказательств,
- опровержимые презумпции нарушения ответчиком требований законодательства ЕС и причинной связи между таким нарушением и результатом работы ИИ-системы.

В проект внесены изменения с учётом вступившего в силу Регламента ЕС об искусственном интеллекте.

В сентябре этого года обновлённый проект директивы должен пройти оценку регуляторного воздействия, после чего станут более понятны шансы её принятия.

В отличие от регламентов, директивы ЕС не имеют прямого действия и в случае принятия должны имплементироваться на уровне каждого отдельного члена ЕС, в данном случае в течение двух лет.

Robocounsel

02 Aug 2024 17:19

Эфир на английском о Регламенте ЕС по ИИ

В понедельник, прямо здесь, в 18:00 по МСК, буду дублировать мою трансляцию, которая будет проходить на Линкдине и в Х (бывший Твиттер).

Robocounsel

30 Jul 2024 16:45

Автоматизация договоров и ЮНСИТРАЛ

Начинаем эфир здесь через 15 минут

Robocounsel

18 Jul 2024 11:50

Чем полезно внедрение ИСО/МЭК 42001:2023?

Поскольку не всем очевидно, и поступают вопросы, поясню.

Это новый и ведущий международный стандарт менеджмента при разработке и эксплуатации ИИ-систем, пополнивший семейство аналогичных стандартов этой организации. В частности, многие организации уже применяют ИСО/МЭК 27001 для управления информационной безопасностью (ИБ).

Стандарт ИСО/МЭК 42001 относится к управлению ИИ-системами так же, как 27001 относится к управлению ИБ. В целом 42001 — про внедрение процессов и контролей для управления качеством, для того, чтобы инвесторы, менеджмент, бизнес-партнёры и клиенты были уверены, что ваша организация, в частности:
— картографировала, отслеживает и постоянно улучшает свои бизнес- и технологические процессы в части разработки и (или) эксплуатации ИИ-систем,
— определила и отслеживает необходимые ей трудовые, технологические и иные ресурсы,
— назначила ответственных по ключевым направлениям, идентифицировала специфичные для ИИ риски и управляет ими, включая необходимую работу с качеством данных и с качеством компонентов от субпоставщиков,
— определила и отслеживает ключевые метрики эффективности, управляет инцидентами и имеет чёткий план мероприятий согласно своим политикам.

В случае с моим клиентом сертификация их AI Governance продукта — даёт уверенность клиентам, что то, как расписаны требования и контроли по стандарту ИСО/МЭК 42001 на платформе — не взято с потолка, а сделано действительно на основе этого стандарта, и это проверено независимым лицом (органом по сертификации).

В случае же внедрения этого стандарта в вашей организации это повышает доверие к вашим ИИ-продуктам и сервисам, поскольку у заинтересованных лиц и публики возникает уверенность, что у вас внедрены описанные выше процессы управления качеством и постоянного улучшения.

Точно так же, как, например в промышленности, больше доверяют бизнес-партнёрам, которые внедрили систему менеджмента качества по ИСО 9001 — у них, как правило, заведомо и существенно меньше брака, чем на любом другом предприятии, не внедрившем систему менеджмента качества.

Robocounsel

16 Jul 2024 16:15

Автоматизация договоров и ЮНСИТРАЛ

Комиссия ООН по праву международной торговли на днях утвердила новый типовой закон: об автоматизированном заключении договоров.

Речь идёт в том числе об использовании смарт-контрактов и инструментов с применением искусственного интеллекта.

И уже сегодня из Брюсселя пришли новости о том, что этим направлением занялся Департамент Еврокомиссии по правосудию и защите потребителей (DG JUST).

Каковы основные положения нового типового закона, в чём его значимость и кому он будет полезен? Об этом поговорим здесь в прямом эфире с Николаем Дмитриком, директором офиса RPPA и экспертом ЮНСИТРАЛ.

Подключайтесь к стриму прямо здесь во вторник 30 июля, в 17.00 CET / 18.00 MSK!

Robocounsel

12 Jul 2024 08:41

Регламент ЕС по искусственному интеллекту официально опубликован

Он получил номер 2024/1689. Первые его требования, включая обязанность поставщиков и эксплуатантов любых ИИ-систем обучать свой персонал основам ИИ-грамотности, вступят в силу уже 2 февраля следующего года.

Обязательства по обучению касаются операторов любых ИИ-систем, даже тех, которые не создают повышенной опасности и не нуждаются в раскрытии информации.

Если вы работаете на рынке ЕС, вы можете забронировать подходящий вам курс или вебинар на моём сайте или здесь через бот.

Robocounsel

08 Jul 2024 13:19

Почти четверть внедривших генеративный ИИ организаций уже понесли ущерб от "галлюцинаций"

Об этом свидетельствует новое исследование Маккинзи. Количество организаций, осознающих это как риск, за год увеличилось с 56 до 63%.

Другими ключевыми проблемными зонами генеративного ИИ, повлекшими реальный вред, оказались кибербезопасность (16%), невозможность объяснить решения (12%), нарушение прав на интеллектуальную собственность (11%), нарушение регуляторных требований (10%), нарушение неприкосновенности частной жизни (9%) и урон репутации организации (8%).

Тем не менее, готовность организаций к системному управлению рисками в этой области остаётся низкой.

Только 18% имеют в структуре орган, отвечающий за ответственное применение ИИ, и только 1/3 осознаёт, что их собственные технические специалисты должны быть осведомлены о рисках генеративного ИИ и о мерах по управлению этими рисками.

Не хотите присоединиться к тем, кто учится на своих ошибках? Хотите поучиться на чужих? Понять, в каких сценариях и как можно безопасно применять генеративный ИИ в вашей организации?

Нужна практическая консультация без воды? Вебинар? Корпоративный тренинг? Пишите.

Robocounsel

05 Jul 2024 14:38

Услуги и сотрудничество

Напомню, что вы можете привлечь меня как эксперта на ваши проекты, вебинар, корпоративное обучение, записаться на консультацию, менторство или просто встречу (через сайт или через бота).

Подробнее

Robocounsel

04 Jul 2024 14:24

Становятся ли более высокоавтоматизированные системы менее подконтрольными?

Не обязательно. В определенной степени это ложная дихотомия.

Десятилетиями эксперты в области автоматизации и более широкая публика находились под влиянием таксономии Шеридана-Верпланка (1978, см. на иллюстрации слева), которая в 2014 году была адаптирована и популяризирована SAE в виде уровней автоматизации применительно к автомобилям (см. комментарии к этому посту).

Чрезмерно упрощенное понимание этих понятий привело многих из нас к убеждению, что по мере внедрения систем с всё более высокой степенью автоматизации мы неизбежно должны уступать им контроль за выполнением задачи.

Но в своей статье, опубликованной в 2020 году, Бен Шнейдерман напомнил нам, что это не так.

Вместо того чтобы рассматривать подконтрольность (human control, controllability) как характеристику, расположенную на одной одномерной оси со степенью автоматизации (level of automation), он предложил двухмерную перспективу.

Такая перспектива предполагает, что системы ИИ могут (а иногда и должны) одновременно обладать (1) высоким уровнем автоматизации и (2) высокой степенью подконтрольности.

В качестве примера он привел лифты и современные камеры, которые могут обеспечивать высокий уровень автоматизации при выполнении задач, но также и высокую степень контроля над результатами. Эти устройства работают благодаря автоматизации, но при этом остаются под нашим полным контролем и строго следуют нашим намерениям (при этом, разумеется, камеры работают в гораздо менее стесненных условиях и предоставляют нам больше степеней свободы).

В то же время, как степень автоматизации, так и степень человеческого контроля должны соответствовать конкретной задаче и контексту.

Автоматизация может быть чрезмерной, например, когда разработчики системы не предусматривают передачу управления человеку тогда, когда это необходимо по соображениям безопасности, или когда операторы не обучены или не информированы о том, как задействовать эту функцию (привет, Boeing 737 MAX).

Аналогично, человеческий контроль над системой может быть чрезмерным, например, когда системой управляют обычные потребители, а разработчики забыли заложить "защиту от дурака".

Соответственно, степень автоматизации можно понимать как степень, в которой система способна работать без вмешательства человека. Но степень ее подконтрольности — это отдельная, независимая характеристика.

Возможны предельно автоматизированные и одновременно хорошо контролируемые системы ИИ (отдельный вопрос: кем и каким образом контролируемые). И совершенно ясно, что никому не нужны системы ИИ, которые полностью автоматизированы (автономны) и при этом недостаточно подконтрольны.

Robocounsel

02 Jul 2024 17:19

Как злоупотребляют генеративным ИИ?

Исследование об этом опубликовал Гугл Дипмайнд.

Основные задачи, которые помогает решать генеративный ИИ пропагандистам, злоумышленникам и нечистым на руку дельцам:

1) Манипуляция общественным мнением, в том числе через дипфейки,
2) Монетизация товаров и услуг, в том числе запрещённых к обороту (напр., "ИИ-раздевание" на заказ),
3) Мошенничество,
4) Домогательства и преследование,
5) Расширение охвата коммуникации, в том числе коммерческой.

Главные выводы:

1. Наиболее популярными сценариями злоупотребления являются дипфейки для использования чужой идентичности и фальсификации документов.

2. В большинстве случаев для злоупотребления используются самые простые и доступные возможности генеративного ИИ, без особых ухищрений.

3. Доступность генеративного ИИ приводит к появлению новых форм злоупотребления, не входящих прямо в противоречие с пользовательскими соглашениями поставщиков ИИ-продуктов. Тем не менее это действия сомнительной этичности, включая новые формы политической агитации, самопродвижения и пропаганды.

Исследование также приводит основные способы компрометации генеративных ИИ-систем путём несанкционированного воздействия на ИИ-модель и на данные.

Robocounsel

28 Jun 2024 12:36

Как знание о том, что работа сгенерирована ИИ, влияет на восприятие её ценности?

Американские исследователи провели эксперимент, по результатам которого подтвердили свою гипотезу.

При показе двум группам одной и той же работы, участники группы, которой сообщалось, что работа сгенерирована ИИ, оценивали её художественную ценность ниже, нежели участники другой группы, которой такая информация не давалась.

Кроме того, первая группа также была более склонна считать, что работа нарушает авторское право и была менее склонна считать, что имеет место добросовестное использование (fair use).

Кажется, что издания и компании, недавно публично анонсировавшие тренд на отказ от контента, сгенерированного ИИ, сделали это очень вовремя и разглядели ту предрасположенность публики, которая теперь подтверждается и объективными исследованиями.

Да, это исследование показывает, что людям в их оценках присуще когнитивное искажение, но компании сделали так, чтобы оно работало на них, а не против них: как говорится, если что-то нельзя предотвратить, лучше это возглавить.

Robocounsel

27 Jun 2024 12:29

Нельзя просто взять и ввести автоматизированный прокторинг на экзаменах

В сентябре 2021 года итальянский орган по надзору за обработкой персональных данных оштрафовал Университет Боккони на 200.000 евро за использование на экзаменах системы автоматизированного прокторинга без законного основания.

Для дистанционной сдачи экзаменов в условиях пандемии коронавируса университет использовал ПО Respondus, состоявшее из компонентов Lockdown browser и Respondus Monitor.

Первый модуль блокировал запуск на компьютере студента неразрешённых программ. Второй отслеживал поведение студента во время экзаменов и в случае обнаружения подозрительных действий посылал экзаменаторам отчёт для перепроверки.

Кажется очевидным, что автоматизированный анализ поведения студентов по данным с видеокамеры, клавиатуры и мыши составляет обработку биометрических данных, которая в данном конкретном случае требовала наличия в итальянском законе или европейском регулировании прямой нормы, разрешающей подобную обработку биометрических данных в данном сценарии и одновременно устанавливающей гарантии для защиты интересов студентов (ст. 9(2)(g) Регламента ЕС о защите данных и ст. 2-sexies(2)(bb) Итальянского кодекса о защите данных).

Хотя вуз успешно оспорил штраф в трибунале Милана, в этом году Верховный суд Италии (Corte Suprema di Cassazione) отменил решение суда первой инстанции и направил дело на новое рассмотрение.

Трибуналу Милана предстоит установить, имелось ли у университета правовое основание для обработки биометрических данных в данном случае.

Robocounsel

24 Jun 2024 21:31

Рекламу не размещаю

Поскольку участились предложения разместить рекламу в канале повторю публично: не размещаю.

Выбор тематики постов здесь определяется только мной, а не кем-то посторонним.

Robocounsel

18 Jun 2024 10:39

Как раскрывать информацию по машинно-обученным медизделиям?

В 2021 году органы по здравоохранению Канады, США и Великобритании сформулировали 10 принципов хорошей практики для разработки медицинских изделий с применением машинного обучения (GMLP).

Среди этих принципов был и принцип раскрытия информации (transparency). Теперь те же органы выпустили разъяснения конкретно по нему (во вложении).

Под раскрытием здесь понимается доведение до соответствующей аудитории необходимой информации о таком медицинском изделии, включая сведения о назначении, разработке, производительности и, при наличии, логики работы.

Под логикой работы понимаются сведения о том, как был достигнут результат или что лежит в основе решения или действия.

Мера, в которой эта логика может быть объяснена понятным для человека образом, называется "объяснимостью" (explainability).

Эффективным считается такое раскрытие, которое:
- обеспечивает доведение сведений, которые могут повлиять на риски и исход для пациентов,
- учитывает потребности пользователя — потребителя информации и обстоятельства её потребления,
- производится с учётом наиболее подходящих средств, времени и стратегии коммуникации,
- основано на всестороннем понимании пользователей, среды и процессов.

При этом необходимо учитывать следующие основные измерения:
1) кто (релевантная аудитория),
2) почему (мотивация),
3) что (раскрываемые сведения),
4) где (размещение сведений),
5) когда (момент раскрытия),
6) как (методы, обеспечивающие раскрытие).

Robocounsel

16 Feb 2022 11:36

Вышел доклад ВЭФ о моделях управления обменом персональных данных с помощью посредников

В одном из предыдущих докладов ВЭФ уже поднималась проблема тупика, в котором мы оказались с нынешней реализацией модели уведомления и согласия (Notice & Consent).

Большинство людей не читают зубодробительные политики и согласия на обработку персональных данных. Их слишком много, они часто плохо структурированы.

И нет никакой стандартизации, поэтому для обычного пользователя временные затраты на осмысленное принятие условий транзакций с персональными данными неприемлемо велики.

А куки-баннеры многие вообще просто ненавидят.

С другой стороны, в некоторых современных или будущих контекстах текущая реализация уведомлений и согласий, ориентированная на экраны или бумагу, применима с изъянами или вообще не работает - будь то сбор данных по телефону или при взаимодействии с подошедшим к вам роботом.

Развивая эту тему, новый доклад ВЭФ исследует риски и преимущества, которые может привнести включение в цепочку управления и (или) обмена персональными данными независимых посредников, действующих в интересах не операторов, а пользователя. Описываются различные формы, которые может принимать такое посредничество.

Также рассматриваются характеристики технических средств, которые могут обеспечить основу для управления персональными данными по таким моделям.

Очень рад был поучаствовать в работе над этим докладом и, разумеется, всем его рекомендую. Также буду рад здесь вашим комментариям.

P. S. Предыдущий доклад по Notice & Consent доступен здесь.