-
Регулирование робототехники, ИИ и данных. Публикации отражают сугубо личное мнение авторов. Контакт: @tyulkanov
Вышел доклад ВЭФ о моделях управления обменом персональных данных с помощью посредников
В одном из предыдущих докладов ВЭФ уже поднималась проблема тупика, в котором мы оказались с нынешней реализацией модели уведомления и согласия (Notice & Consent).
Большинство людей не читают зубодробительные политики и согласия на обработку персональных данных. Их слишком много, они часто плохо структурированы.
И нет никакой стандартизации, поэтому для обычного пользователя временные затраты на осмысленное принятие условий транзакций с персональными данными неприемлемо велики.
А куки-баннеры многие вообще просто ненавидят.
С другой стороны, в некоторых современных или будущих контекстах текущая реализация уведомлений и согласий, ориентированная на экраны или бумагу, применима с изъянами или вообще не работает - будь то сбор данных по телефону или при взаимодействии с подошедшим к вам роботом.
Развивая эту тему, новый доклад ВЭФ исследует риски и преимущества, которые может привнести включение в цепочку управления и (или) обмена персональными данными независимых посредников, действующих в интересах не операторов, а пользователя. Описываются различные формы, которые может принимать такое посредничество.
Также рассматриваются характеристики технических средств, которые могут обеспечить основу для управления персональными данными по таким моделям.
Очень рад был поучаствовать в работе над этим докладом и, разумеется, всем его рекомендую. Также буду рад здесь вашим комментариям.
P. S. Предыдущий доклад по Notice & Consent доступен здесь.
Гражданская ответственность за автономные авто в Германии
Автономный автомобиль – сложная система. А с точки зрения права ещё и объект повышенной опасности.
В своей свежайшей статье Мартин Эберс описывает, кто и когда может отвечать за ущерб, нанесённый эксплуатацией таких машин в Германии.
Сначала разбирает ситуацию по ныне применимым в Германии правовым нормам, а затем даёт рекомендации – что и почему можно изменить.
Основной посыл, кажется, такой: основным «аккумулятором» гражданской ответственности является – и должен оставаться – владелец автомобиля. Он извлекает пользу из эксплуатации источника повышенной опасности – ему и нести риски.
Но при этом есть сильные аргументы в пользу расширения ответственности производителей таких авто.
Во-первых, возможно изменить стандарт ответственности – ограничить случаи, когда ответственность производителя зависит от его вины. И, соответственно, чаще (хотя и не всегда) вменять ему ущерб от ДТП объективно, просто по факту события.
И, во-вторых, возможно сделать ответственности владельца и производителя авто перед потерпевшими солидарной. Чтобы они могли взыскивать убытки по своему выбору с владельца, производителя или обоих в любой желаемой пропорции.
GDPR-2: Судный день для ИИ в Европе
На экранах 11 февраля в 18.00 по Москве :)
Продолжим диалоги с Денисом Садовниковым и Сергеем Воронкевичем. На этот раз в фокусе проект Регламента ЕС об ИИ. Также затронем грядущее регулирование на уровне Совета Европы.
Регистрируйтесь здесь.
Лицевая биометрия: наднациональное регулирование у нас в Европе
На Privacy Day в эту пятницу 28 января (13:00 МСК) расскажу про регулирование лицевой биометрии на уровне Совета Европы.
Сессия, в которой выступаю, касается в первую очередь применения биометрии в частном секторе.
Присоединяйтесь!
Эксперт: опция Full Self-Driving (FSD) для Теслы не стоит своих денег
Так отозвался об этой опции Михаил Бакунин, специалист из автопрома Силиконовой долины в своём новом видеообзоре на Tesla Y.
Исходя из данных, приведённых в обзоре, машина во многих случаях пока не способна сама уверенно менять полосу движения, а это, по мнению Михаила, — наиболее интересное из заявленных преимуществ текущей версии FSD.
Помимо этого, видео подсвечивает три интересных обстоятельства.
Во-первых, Тесла по-прежнему продолжает именовать свой ADAS-функционал "Full Self-Driving", что, на мой взгляд, может вводить в заблуждение потребителей: ведь полноценного автономного вождения машина не обеспечивает.
Во-вторых, опция FSD, по-видимому, доступна только по подписке (199 долл. в месяц). Сумма не астрономическая, но сама концепция лишний раз напоминает нам о том, что переход от продуктовых на подписочные модели теперь происходит не только в секторе разработки программного обеспечения.
По мере того, как всё больше вещей вокруг нас становятся зависимыми от встроенного ПО и могут контролироваться производителем или поставщиком удалённо, модель подписки становится возможной в бизнесе традиционно "офлайновом", "железном" или даже "кирпичном" ("brick and mortar").
В-третьих, для ряда пользователей Тесла предлагает опцию FSD с большим функционалом, но только если поведение водителя за рулём отвечает понятиям компании о безопасном вождении.
Это означает, что расширение функционала возможно не иначе, как в обмен на сбор американской компанией дополнительных персональных данных о поведении водителя.
И при условии, что водитель согласен на автоматический скоринг по такому поведению. Ещё один скоринг, незаметно входящий в нашу жизнь.
Робособака смешная, а ситуация с правами человека — не очень
Можно, конечно, умиляться китайским клонам американских робособак, которые Госинспекция по недвижимости начинает использовать в Москве.
Но есть одна проблема: по всем правонарушениям, которые фиксируются роботами, для удобства правоприменения практически отменяют презумпцию невиновности (см. иллюстрацию из КоАП).
Вас сначала оштрафуют, а потом вы можете доказывать, что вы — не совсем верблюд.
Технический прогресс движется, а сфера действия прав человека сужается.
Правосубъектность артефактов — оксюморон, которому не дают умереть
Две общепарламентские группы Британского парламента — по ИИ и по будущим поколениям провели 13 декабря совместное мероприятие.
Снова обсуждалась странная для меня идея правосубъектности систем с ИИ.
Казалось бы — пообсуждали в академической литературе эту тему уже давным давно, не увидели в этом пользы, и разошлись.
Не нашли практических кейсов, где это давало бы что-то, кроме возможности для операторов и разработчиков систем с ИИ элегантно уйти от ответственности за низкое качество своих систем.
Но полуразложившийся труп этой кажется очевидно гнилой идеи продолжает бродить по Европе и, как видно, даже давать гастроли на Британских островах.
К счастью, британские парламентарии пригласили Джоанну Брайсон, которая, кажется, разложила всё по полочкам.
Тезисы её выступления можно прочитать здесь.
Удивительно, конечно, что кто-то из коллег всё ещё увлечён идеями "оправосубъектить" артефакты. Единственная очевидная полезная (не для общества) цель данного предприятия давно понятна, а адекватных альтернативных аргументов так и не появилось.
Благодарность
Признание коллег — одно из важнейших достижений в любой профессии.
В связи с этим бесконечно признателен Сообществу профессионалов в области приватности (RPPA) за награждение меня титулом Прайваси-евангелиста.
Спасибо! И поздравления победителям в других номинациях!
Пандем-ИИ: от каких приложений больше вреда, чем пользы?
Нидерландский фонд ALLAI опубликовал обзор по областям применения ИИ в медицинско-социальных целях в ходе текущей пандемии.
По оценке фонда, большинство из попавших в обзор применений ИИ по соотношению выгод и преимуществ скорее вредны, чем полезны для общества; многие не имеют доказанной эффективности.
Так, использование стационарных температурных сканеров социально нормализует расширение практики постоянного и повсеместного наблюдения за гражданами при отсутствии доказанной эффективности в выявлении заболевших.
Также, например, может настораживать растущее использование работодателями ПО для мониторинга сотрудников, работающих на дому, включая отслеживание положения глаз, движений мышью и т. п. Такие методы контроля не повышают лояльность сотрудников и при этом плохо совместимы с уважением к человеческому достоинству и с охраной частной жизни.
Обзор стал результатом применения на практике Руководства по этике для доверенного ИИ, принятого Высокоуровневой экспертной группой ЕС в 2019 году. Для практического применения принципов Руководства на их основе фонд разработал собственный фреймворк.
Основатели фонда ранее были участниками указанной экспертной группы.
Социальный скоринг и коммерческий профайлинг: что общего?
Открутив эфир назад, можно также увидеть моё вступительное слово к конференции, где я упоминаю о новой рекомендации КМ СЕ (2021) 8 — о защите персональных данных граждан в контексте профилирования.
Но какое отношение к этому имеет социальный скоринг, если эту проблему обсуждают обычно как риск, исходящий от государства?
В некоторых случаях — прямое. Дал первые пояснения во вступлении, продолжу мысль в дискуссии в 16.00.
Новейшие российские роботы на американских кампусах
С этой среды новейшее, третье поколение роботов-доставщиков Яндекса начало развозить еду по кампусу Аризонского университета. По нынешним сложным в политическом смысле временам удивителен — и приятен — сам этот факт.
А селф-драйвинг команда Яндекса по этому случаю опубликовала обзор на новое поколение роботов и поделилась некоторыми отличиями от предыдущих моделей: больше сенсоров, оптимизирован грузовой отсек, более плавный ход за счёт новой подвески, сменная батарея, новый дизайн корпуса.
Также к обзору приложено несколько видео с испытаний.
Об охраноспособности результатов работы нейросети: комментарий В. О. Калятина
А вот какой взгляд по данному вопросу у Виталия Олеговича Калятина, который любезно согласился дать комментарий для нашего канала:
"Если кратко, то можно сказать так: В целом, общий подход, что в России, что за рубежом, сейчас понятен –охраняются только результаты, созданные человеком. Значит, все, что создается нейросетью охраняться не будет. А создатели сети/ПО права не получат, т.к. их творческий вклад был ограничен программой/организацией сети, но не касался созданного объекта.
Как быть с РИДами, созданными искусственным интеллектом?
Прежде всего нужно понять, чего мы хотим достичь закреплением права на такой объект. В отношении обычных произведений/изобретений введение правовой охраны призвано прежде всего стимулировать людей создавать новые объекты, заниматься творчеством. Искусственный интеллект в поощрении не нуждается (по крайней мере, сейчас J ). А общество заинтересовано в получении возможно высококачественных продуктов в сфере интеллектуального творчества. Представляется, что единственным субъектом, на который мы можем эффективно воздействовать для достижения этой цели является организатор использования искусственного интеллекта. Именно это лицо ставит задачу, задает параметры работы, отбирает и корректирует результаты. Поэтому логично ему и предоставлять право, но, конечно, ограниченное по объему и срокам, например, в рамках смежных прав – тем более, что его деятельность подобна деятельности изготовителю фонограммы или базы данных, права которых там уже присутствуют. Как представляется, именно к смежным правам склоняется и большинство исследователей в мире. Этот вариант позволит защитить и творчество человека, т.к. у заказчика будет выбор – приобрести ограниченные права на объект, созданный искусственным интеллектом (пусть и дешевле) или более широкие права на объект, созданный человеком (но дороже).
Хуже всего, конечно, давать права разработчику искусственного интеллекта – во-первых, мы получим несколько монополистов на рынке контента, а во-вторых, не достигнем своей цели, т.к. это лицо не определяет качественные характеристики создаваемых продуктов, оно готовит инструмент, но используют его другие. Ненамного лучше выводить объекты, созданные искусственным интеллектом, в сферу общественного достояния: в этом случае человек будет вытеснен с рынка соответствующей продукции; с другой стороны пышно расцветет фиктивное авторство – когда вместо искусственного интеллекта будут указываться имена людей, не имеющих отношения к производству. И вместо сокращения охраны мы получим полноценную защиту результатов, только уже в ущерб людям".
И вновь о произведениях, созданных компьютером
Не знаю, как у вас, а мою ленту Фейсбука заполонили "произведения, созданные компьютером". Да-да, те самые computer generated works нейросети DALL-E.
Данная иллюстрация лишний раз для меня поставила под сомнение тезис о том, что правовой режим для творчества человека и "творчества" машины может быть одинаковым.
На предыдущем уровне дискуссии, пока не стало популярным обсуждать некие возможные новые квазисмежные права на "творчество" машин, я сам вёл вполне всерьёз разговоры о возможной атрибуции авторских прав.
Обсуждали, например, с Анатолием Семёновым в том числе телеологически — насколько это справедливо с позиций целей института авторского права.
Которое вроде как изначально было про создание для человека стимулов к творчеству, чтобы не все занимались только более прагматичными занятиями типа починки примусов.
Комментировали релевантное положение британского CDPA про computer-generated works. Спекулировали о возможной аналогии в российском праве и как могут или должны de lege ferenda распределяться права среди возможных претендентов (создатели "творческого" инструмента и его пользователь).
Говорили о практической сложности разграничения computer-generated works и computer-assisted works.
При этом для меня этот аргумент (сложность различения на практике) не являлся и не является достаточным поводом для того, чтобы предоставлять этим двум всё же отличающимся по процессу создания объектам одинаковый правовой режим.
Все эти рассуждения de lege ferenda интересны, но как следует разрешать возможные казусы по действующему российскому закону?
Ведь если кто-то из пользователей присвоит себе подобное "творчество" нейросети, действительно, может сложиться ситуация, когда в оборот поступит некий объект, внешне плохо отличимый от творчества некоторых современных художников.
И если потребители будут считать этот объект ценным, будут готовы платить за его использование, иллюзия права будет сохраняться и может порождать вполне неиллюзорные выгоды для того, кто заявил об авторстве.
Кажется, на практике эта проблема de lege lata может решаться следующим образом.
Авторское право на любое конкретное находящееся в обороте изображение может продолжать презюмироваться существующим и принадлежащим автору, который объявил себя таковым, до опровержения этой презумпции иным заинтересованным лицом.
Если создатели нейросети или кто-то иной представят доказательства того, что объект в действительности создан нейросетью, его следует считать неохраноспособным.
Причины просты: вряд ли несколько слов, которыми пользователь задаёт параметры результата работы нейросети, можно считать даже минимальным творческим вкладом.
И, с другой стороны, результат не является неотъемлемой частью самой нейросети как объекта авторских прав. В ином случае мы получили бы ситуацию, когда обладатели авторских прав на нейросеть получили бы монополию на использование бесконечного множества возможных результатов её работы, что кажется очевидно абсурдным при сопоставлении нейросети с другими аналогичными ей по назначению техническими средствами — инструментами (фотоаппарат, фортепиано, графический редактор и т.п.).
Соответственно, если появятся доказательства того, что самопровозглашённый автор присвоил себе авторство на результат работы нейросети, у его возможных контрагентов возникнет право на иск к нему о признании сделки по поводу результатов "творчества" недействительной как заключённой под влиянием обмана.
Согласны?
P.S. Описанное выше — лишь предлагаемый подход к применению существующего закона, но не аргумент против возможного изменения закона. Есть ощущение, что институты авторского и смежного права в целом уже какое-то время трещат по некоторым швам и нуждаются в обновлении.
Отличная колонка от Ивана Бегтина
про лицевую биометрию в Мосметро
Если ещё не читали — здесь.
Мне всегда казалось, что давать себя пропускать в метро по лицу — это какое-то дико непропорциональное обременение себя дополнительными рисками без каких-то ощутимых выгод.
"Тройка" отлично работает, так же быстро пропускает через турникет и при необходимости может покупаться за наличные совершенно анонимно.
Тот самый случай, когда заявленная цель обработки персональных данных (исполнение договора на оказание транспортной услуги) достигается прекрасно без их [избыточного] сбора. То есть нарушается один из базовых принципов обработки персональных данных, предусмотренных 152-ФЗ и Конвенцией 108+ (неизбыточность).
Такое ощущение, что декларируемая цель сбора биометрии здесь совершенно притворная, а собираемые данные нужны и ценны для непонятно каких иных целей.
Конференция: на пути к гармонизированному регулированию ИИ
Если вам показалось, что в последнее время на канале мало постов — вам не показалось. Пришлось этим немного временно пожертвовать, так как мы с коллегами в последние месяцы приложили огромное количество усилий, чтобы завтра провести одну из крупнейших конференций по регулированию применения ИИ.
И завтра, во вторник 26 октября, вы сможете её увидеть в прямом эфире здесь. Там же вы можете ознакомиться с программой и спикерами (скорее смотрите, они потрясающие).
Откроют конференцию генеральный секретарь Совета Европы, президент ПАСЕ и представители нынешнего Венгерского председательства Комитета Министров Совета Европы.
Ждём вас завтра в эфире в 11:00 по Москве.
Как развивается рынок робототехники: рассказывает Алиса Конюховская
Алиса крутая, а ICT Moscow очень удачно взяли у нее интервью ко дню робототехники. Так что всем интересующимся трендами на этом рынке – рекомендую.
Также у них на канале сегодня вышла подборка каналов про робототехнику. Как минимум один знакомый вам там уже есть :)
И поздравляю всех причастных с профессиональным праздником!
5 уровней автоматизации принятия решений в госуправлении по Яну Зизингу
Многим знакома традиционная пятиступенчатая классификация степени автоматизации автомобилей от SAE.
Ян Зизинг предложил по аналогии проклассифицировать степень автоматизации принятия юридически значимых решений в сфере госуправления.
Получившаяся у него схема - на картинке. Подробности - в его докладе для круглого стола, который проводил Комитет по демократии и госуправлению Совета Европы (с. 16 документа).
Как вам классификация?
Снова про биометрию и её использование в неожиданных (для кого-то) целях
Ну вот и про случай, который мы обсуждали с Денисом Садовниковым и Сергеем Воронкевичем как гипотетический в прошлом году, пишет Роскомсвобода (UPD: Мосметро отрицает).
«Очень инновационно продвинутый мужчина узнал, что можно платить лицом в метро, зарегистрировался в Face Pay, сдал биометрию и стал ездить. Через пару дней ему прилетел штраф за проезд в метро без маски — 3 тысячи рублей.
Остальные тоже ездят без маски, но их нельзя идентифицировать по лицу. Его можно, и он не знает, как теперь отозвать своё лицо из этой системы и кому оно ещё досталось».
Что можно сказать? Берегите биометрические персональные данные смолоду. И, если не уверены в том, в каком неизвестном контексте они могут быть использованы, не делитесь такими данными.
Ну и, наверное, это повод заново — а для кого-то впервые — посмотреть наше прошлогоднее обсуждение :)
А также вспомнить о замечательной книге Хелен Ниссенбаум "Приватность в контексте".
Про то, почему при распространении информации о частной жизни для человека (и общества в целом!) на самом деле важен не сам абстрактный факт её распространения, а неожиданность и неадекватность нового контекста, в который эта информация помещается без его ведома.
И на старуху бывает проруха
Блестящий популяризатор научного знания Стивен Пинкер, к сожалению, сильно и неоднократно ошибся в своей статье, развенчивающей риски продвинутого ИИ.
Вопреки его утверждениям, не менее 70% технических экспертов по ИИ считают, что перспективные системы ИИ будущего (включая разработки в направлении AGI) несут реальные риски для безопасности человечества.
Мотивированные контраргументы Пинкеру приводит в своём видео другой популяризатор науки, специализирующийся на ИИ, Роберт Майлз (статья Пинкера доступна здесь).
Помимо ютуб-канала, Роберт ведёт специализированный подкаст по безопасности ИИ — Alignment newsletter podcast. Подкаст посвящён одноимённой проблеме отклонения деятельности сложных ИИ-систем от целей, заданных человеком.
Речь не о том, что мы все умрём и нужно (или уже не нужно) паниковать. А о том, что сложа руки сидеть нельзя, проблема реальна и ею нужно заниматься сейчас, а не когда станет поздно.
А тем, кто предпочитает текстовый формат, стоит подписаться на первоисточник — рассылку по этой теме от исследователя по безопасности ИИ Роина Ша.
Безопасного нам всем ИИ в новом 2022 году!
Формирующееся регулирование ИИ в Европе: верхнеуровневый обзор
Президент Специального комитета по ИИ Совета Европы Грегор Строин сделал интересный обзор. В нём отражены основные направления регуляторной работы по ИИ в Европе в 2021 году и перспектива на 2022.
Рекомендую к прочтению.
Если ссылка выше у вас не открывается из-за отсутствия доступа к Линкдин, смотрите сохранённую версию через веб-архив.
#awards
💙Объявлены победители Russian Privacy Awards 2021💙
Мы от всей души поздравляем всех участников, а также причастных к организации единственной в России Премии в области приватности!
💙DPO года - Елена Богданова, Grohe
💙Консультант года - Ксения Андреева, Morgan Lewis
💙Privacy-евангелист - Александр Тюльканов
💙Privacy-стартап - Privacy Accelerator
💙Лучший кейс по Privacy - Eurasian Digital Foundation
💙Лучшее решение в PrivacyTech - SAS Personal Data Protection Management
🪆Все участники получат именные сертификаты
🪆А победителей ждут памятные призы
📢Трансляция
С любовью и морозным солнцем,
Команда Awards
Панельная дискуссия AI vs. Privacy: не спрятаться, не скрыться
10 декабря в 18.00 по Москве с Денисом Садовниковым и Сергеем Воронкевичем обсудили "лицевую биометрию" и смежные кейсы - Facepay, Retorio, Clearview...
Затронули также грядущее регулирование систем с ИИ на уровне Совета Европы и новую модель оценки рисков для таких систем.
Запись доступна здесь.
Globalpolicy.AI на IGF 2021
9 декабря от Совета Европы выступаю на Форуме по управлению Интернетом в панели вместе с коллегами из ОЭСР, ЮНЕСКО, Еврокомиссии и Агентства ЕС по фундаментальным правам.
Напомним про нашу новую инициативу Globalpolicy.ai и поговорим про практические шаги к доверенным ИИ-системам.
В частности, я затрону проблематику практических инструментов для разработчиков и дата-саентистов. AI Fairness frameworks: они уже есть, но осведомлённость о них и использование в индустрии оставляет желать лучшего...
Регистрируйтесь и добавляйте нашу сессию в календарь!
Infobip Privacy Forum
Сегодня в 16.00 по Москве участвую в панельной дискуссии по ИИ и данным в экосистемах.
Конференция идёт с сегодняшнего утра, программа обширная.
Эфир посмотреть можно здесь.
В США рассматривается законопроект в защиту интересов пользователей медиаплатформ
Уже не первый год учёные били тревогу: на примере американского общества приводились множества примеров того, как объективно, на графиках, усугубилась в последние годы поляризация общества.
Как сторонники одной партии демонизируют других, как люди одних взглядов не настроены на сотрудничество с другими.
Статистика показывала, что такой разобщённости в обществе не было 50, 40 и даже 10 лет назад.
И в последнее время проблема только усугубилась за счёт помещения людей в пузыри из алгоритмических фильтров, создаваемых социальными сетями и медиаплатформами.
За счёт фильтрации, персонализации видимой информации по критерию наибольшего удержания аудитории конкретному человеку предлагается контент, который способствует не критическому взгляду на мир, а подкреплению тех когнитивных ошибок и тех убеждений, которые этому конкретному человеку уже свойственны.
Радикалы становятся радикальнее, люди одних взглядов общаются всё больше с людьми тех же взглядов и не имеют шансов выйти из комфортного, но тесного и неполноценного мирка.
И вот, законотворцы в США наконец-то прислушались и в необыкновенном единении внесли на рассмотрение двухпартийный законопроект, который поможет снизить остроту описанной выше проблемы.
“Consumers should have the OPTION to engage with Internet platforms without being manipulated by secret algorithms driven by user-specific data,”.
Нельзя не согласиться.
"The bill would require social media sites to post a notice the first time a person interacts with an “opaque” algorithm. The notice would give users the option to turn the algorithm off. The bill defines an opaque algorithm as one that “determines the order of manner that information is furnished to a user... based, in whole or in part, on user-specific data that was NOT EXPRESSLY provided by the user to the platform for such purpose.”
Соответственно, если Фейсбук спросит вас, хотите ли вы видеть ленту на базе их предположений (inferred data) о вашей сексуальной ориентации и политических взглядов либо не хотите — это правильный вопрос, и вы решите сами, вправе ли они использовать эти данные либо нет. Т.к. вы субъект этих данных, решать вам, а не им.
Если текст закона будет на этих принципах — прекрасно.
И отдельно об аргументах против автоматического закрепления прав на результаты работы нейросети за её разработчиками (de lege ferenda)
Когда мы с коллегами в Фейсбуке ранее (в 2016) обсуждали эту тему, предложение по поводу возможных прав разработчика озвучивалось, но для меня выглядело и тогда сомнительным.
Ещё была статья аж 2015 года моего преподавателя из Эдинбурга Б. Шафера с коллегами, где рассматривался тогдашний кейс с новостью о Qentis. Якобы объявился такой российский разработчик, который разработал софт, позволивший создать и заявить авторские права на 97,42% всех в принципе возможных осмысленных текстов длиной от 10 до 400 слов на ряде языков (остальные тексты уже были созданы за предшествующую историю человечества).
К счастью, новость о Qentis оказалась лишь частью арт-перформанса венского художника Михаэля Марковичи, который нам ещё тогда продемонстрировал потенциальные проблемы копирайт-троллинга, возможного при слепом предоставлении правовой охраны результатам работы таких нынешних нейросетей, как DALL-E.
Данный перформанс, в свою очередь, отсылает нас к мысленному эксперименту Эмиля Бореля - "теореме о бесконечных обезьянах": по закону больших чисел вопрос лишь времени, когда они случайным нажатием на клавиши воспроизведут все работы Шекспира.
Эта же идея вдохновила Хорхе Луиса Борхеса позже описать возможную "Вавилонскую библиотеку", содержащую, как результат подобных случайных "трудов", бесконечные никак не упорядоченные и не озаглавленные тома со всеми возможными комбинациями букв алфавита.
В результате, такая библиотека действительно содержала всю возможную полезную информацию, когда либо существовавшую, но ввиду отсутствия какой-либо логики и системы в её представлении полезное просто утопало в тоннах бесполезного.
Детище Qentis, в результате, оказывалось современной версией такой бессмысленной Вавилонской библиотеки, где бесконечные обезьяны заменены на множество современных процессоров для параллельных вычислений.
При таком пояснении кажется, что предложение автоматически предоставлять разработчикам системы какие-либо права на полученные системой результаты выглядит либо просто безумием, либо сознательным доведением до абсурда всей истории с развитием института прав на интеллектуальную собственность.
Для меня лично очевидно, что аналогичный аргумент применим и к случаю с результатами работы нейросети DALL-E. Какой бы новый правовой режим ни был предложен взамен нынешнего (моё толкование описано в предыдущем посте), наихудшее, что можно было бы придумать — это допустить автоматическое признание каких-либо интеллектуальных прав на результаты за разработчиками нейросетей и иных систем с ИИ.
На этом фоне более осмысленным выглядят другие предложения, например, озвученное здесь Алексеем Гудковым.
В моём понимании, de lege ferenda, если это окажется социально и экономически более обоснованным чем полное отсутствие правовой охраны, мы можем говорить, как максимум, лишь о допустимости закрепления некоего права за лицом, которое отберёт среди множества созданных нейросетью результатов что-то более-менее достойное внимания публики и придаст ему некий новый смысл (путём интерпретации, помещения в некий задуманный этим лицом контекст или, как напоминает нам Владимир Ожерельев, путём переработки).
При этом речь, на мой взгляд, может идти, конечно, не об авторском, а о некоем новом квазисмежном праве, притом достаточно сильно ограниченном по времени действия и объёму правомочий.
Недостатки российских судебных актов: комментарий Р. С. Бевзенко
С описанной выше оценкой Сергея Александровича Халатова соглашается и другой известный российский юрист — Роман Сергеевич Бевзенко.
На наш вопрос в чате его канала Loader from SVO о том, действительно ли российские судебные акты стабильно демонстрируют вышеописанные недостатки, Роман Сергеевич ответил:
"Конечно. Особенность российских судебных актов в том, что в них судьи (1) произвольно описывают обстоятельства дела, упоминая только те из них, которые им "выгодны" для подкрепления решения, (2) произвольно описывают аргументы сторон, выбирая только те из них, с которыми они согласны или которые они могут опровергнуть, (3) вместо демонстрации логики своих рассуждений российские судьи просто цитируют нормы законов (это делается для того, чтобы дать как можно меньше поводов проверочным инстанциям для отмены)".
Есть о чём задуматься — и коллегам из судебной системы, и антрепренёрам юртеха...
Подводные камни предиктивной аналитики на российских судебных актах
В комментариях к посту нашего коллеги Сергея Халатова мы с ним затронули проблему, критически значимую для построения систем предсказательной судебной аналитики.
По 25-летнему опыту Сергея российские судебные акты — по всем категориям дел — стабильно демонстрируют два существенных недостатка: (1) неполное или ошибочное отражение обстоятельств, положенных в основу решения, (2) отсутствие адекватной мотивировочной части, позволяющей логически увязать обстоятельства и вынесенное решение.
Ввиду этого, на мой взгляд — и Сергей согласен — на основе анализа одного лишь корпуса российских судебных актов затруднительно понять, почему российские суды принимают те решения, которые они принимают.
И без дополнительных данных не только бесполезно, но и вредно было бы пытаться на основе такого анализа давать какие-то далеко идущие рекомендации по улучшению законодательства или, например, пытаться создавать хорошую автоматизированную систему предсказательной судебной аналитики.
Для получения необходимой дополнительной информации требуется глубокое погружение: работа напрямую со сторонами соответствующих споров, анализ условий договоров, в связи с которыми такие споры возникают, изучение иных материалов дела, опрос непосредственных участников событий.
Именно на основе всех этих не отражённых в тексте судебного акта предпосылок на самом деле действуют стороны и суд, затем выносящий решение.
Предсказательная судебная аналитическая система, не учитывающая этого, заведомо будет бесполезной или вредной.
Верховенство данных вместо верховенства права?
В продолжение темы: вышла свежая статья моих коллег Я. Менесёра и К. Барбаро — "Artificial intelligence and the judicial memory: the great misunderstanding".
Авторы раскрывают проблематику "предсказательного правосудия". В основе критика, схожая с моей: вы не можете просто взять и заменить правовую аргументацию статистическим анализом.
Но выводы и опасения авторов более глубокие: при излишнем увлечении "государственным управлением, основанным на данных", при постановке "телеги" данных впереди государственной "лошади" существует риск подмены базовых ориентиров в регулировании.
Сейчас этими базовыми ориентирами в развитых демократиях всё ещё являются идеалы прав человека и верховенства права.
Но останутся ли они такими же ориентирами, скажем, через 20 лет или будут незаметно подменены идеалами эффективной технократии — большой вопрос.