-
Регулирование робототехники, ИИ и данных. Публикации отражают сугубо личное мнение авторов. Контакт: @tyulkanov
Автоматизированные создание и модерацию контента могут урегулировать
Конференция Министров Совета Европы, ответственных за СМИ и информационное общество, в прошлую пятницу приняла ряд резолюций.
В их числе — Резолюция о свободе выражения мнения и цифровых технологиях.
Из Резолюции следует, в частности, что профильные министры планируют выработать подходы к регулированию применения средств создания, модерации и распространения онлайн-контента с применением ИИ и цифровых технологий.
Такие подходы, исходя из Резолюции, могут включать появление независимого надзора за модерацией контента на онлайн-площадках, а также установление обязательных требований к автоматизированному созданию и распространению контента.
Также профильные министры призвали разработчиков соответствующих технологий проводить предварительную оценку их возможного воздействия на права человека и безопасность пользователей и проектировать свои продукты так, чтобы обеспечивать соблюдение таких прав.
При этом в Резолюции подчёркивается, что онлайн-платформы несут ответственность за предотвращение вреда свободе выражения мнения, в том числе путём отбора источников, злоупотребления сбором персональных данных, избыточной модерации и искажений.
Россия присоединилась к принятым резолюциям с приложением разъяснительного заявления.
ИИ-анализ лиц для найма на работу: полный провал
Журналисты Байрише Рундфунк решили проверить, насколько хорошо работает ИИ-система помощи в подборе персонала.
Продукт уже используют Люфтганза, БМВ и другие крупные компании.
Оказалось, что система существенно меняет оценку одного и того же человека в зависимости от наличия очков и головного убора, а также от того, каков задний фон.
Кандидат с книжными полками на заднем фоне оценивался как более открытый и прилежный, чем он же без этих полок.
Более того, на оценку кандидата влияло качество освещения.
Профессор Катарина Цвайг в этом контексте замечает: "ИИ — в целом отличный инструмент и нам следует его использовать. Но не для анализа человеческого поведения — тут возникают проблемы".
Ей вторит Джулия Энгвин, журналист, изучающий влияние технологий на общество. Она отмечает: идея о том, что черты лица могут хоть что-то сказать о ваших профессиональных качествах — научно не обоснована.
Дипфейки: что и как?
13 мая в 19:30 Moscow Legal Hackers проводят интересное мероприятие:
/channel/msklegalhackers/8952
К чему приводит склонность людей некритически полагаться на автоматизированные решения?
Алексей Мунтян рассказывает о показательном случае.
Британский Post Office 20 лет использовал ПО, из-за ошибок в котором сотрудникам регулярно вменяли несуществующие недостачи.
Почти 740 сотрудников были ошибочно привлечены к ответственности в период с 2000 по 2014 гг. Причинён огромный моральный вред. И никто не усомнился в надёжности программного обеспечения.
Что я могу сказать? Есть целый ряд исследований (пару из которых я приводил тут), подтверждающих феномен слепого доверия автоматизированным системам.
Объясняется такое доверие одним из присущих человеческому мышлению когнитивных искажений. Оно так и называется - искажение автоматизации (automation bias).
Исследования объясняют, что искажение приводит, во-первых, к склонности к ошибочным упущениям событий, которые прямо не обозначены автоматизированной системой (errors in omission).
Во-вторых — также к ошибочным действиям по рекомендациям автоматизированной системы, даже если рекомендация противоречит опыту человека, использующего систему, и другим доступным ему заведомо достоверным данным (errors in commission).
Какие выводы?
1. Доверяй, но проверяй. Автоматизированные решения могут и должны проверяться, хотя бы выборочно, на буллшит: ошибка может быть во входных данных, в методах и логике вычисления решения или в его интерпретации.
Для чувствительных применений доказательство надёжности автоматизированной системы должно быть предварительным условием закупки и ввода её в эксплуатацию.
2. Гражданам должны быть доступны эффективные средства правовой защиты, а организации должны критичнее относиться к своим внутренним процедурам и убедиться в том, что в них "зашита" проверка на буллшит, и что урок от Британского Post Office выучен и не повторится.
Публикуем запись митапа "Право на данные для AI/ML?"
С участием Светланы Поляк, Максима Балаценко, Николая Дмитрика, Алексея Мунтяна и Ивана Чумакова.
Обсудили Text and data mining exception, предложение М. Копа о закреплении "права на обработку данных для машинного обучения". Затронули потенциальную совместимость этого предложения с GDPR и грядущий Data Governance Act, и нужно ли нам это всё в СНГ.
А также правовые последствия построения регулирования по модели из сказок про теремок и грибочек.
https://www.youtube.com/watch?v=NKzccBQZZ8w
⚡️Первый проект Конвенции Совета Европы по ИИ может быть разработан уже в ближайшие месяцы
На сегодняшнем вебинаре представитель России в Совете Европы (группа LFG комитета CAHAI) Константин Косоруков обозначил, что Россия поддерживает разработку и принятие Советом Европы не рекомендаций, а обязывающего документа — всеобъемлющей конвенции по искусственному интеллекту.
Константин также высказал предположение, что первый рабочий проект Конвенции, пригодный для обсуждения и дальнейшей проработки внутри СЕ, может быть разработан уже в первом полугодии этого года.
Мария Алеева (Минэкономразвития России) напомнила слушателям вебинара и о других аспектах позиции России по предлагаемой Конвенции:
- применимость только к ИИ гражданского назначения,
- регулирование как применения ИИ, так и аспектов его разработки, включая работу с данными,
- предотвращение угроз правам человека, имея в виду существующие конвенционные права, без создания новых прав,
- обеспечение недискриминационного доступа на рынок государств-членов Конвенции разработчиков из других государств-членов,
- риск-ориентированный подход, без выделения явно и заведомо запрещённых технологий или областей применения ИИ,
- Конвенция должна быть открыта для присоединения государств, не являющихся членами Совета Европы,
- сертификация ИИ, при её необходимости, должна устанавливаться и регламентироваться на национальном, а не на наднациональном уровне.
Митап: право на данные для AI/ML?
Мориц Коп в своей недавней статье предлагает ввести новое "право на обработку данных" для разработчиков систем искусственного интеллекта. И, соответственно, ограничить права владельцев любых наборов данных, предназначенных для машинного обучения.
Похожие предложения высказываются и применительно к праву других стран, в том числе в СНГ.
Ранее Директива ЕС 2019/790 и её предшественники уже предоставили ограниченную возможность извлекать и воспроизводить данные из различных источников для научно-исследовательских целей. Но, разумеется, новые предложения идут гораздо дальше.
Стоит ли законодателям искать компромиссы или занять более жёсткую позицию в ту или иную сторону?
Обсудим на очередном голосовом телеграм-митапе канала Robocounsel во вторник 20 апреля 2021 г., в 19:00
Участвуют: Екатерина Кирова, Светлана Поляк, Максим Балаценко, Николай Дмитрик, Алексей Мунтян, Иван Чумаков. Ведёт митап Александр Тюльканов.
UPD: аудиозапись прошедшего митапа здесь.
Немного пятничного
Данные - новая нефть, говорите? Но всё новое - хорошо забытое старое:
Не прячьте ваши данные по банкам и углам.
Несите ваши данные, иначе быть беде.
И в полночь ваши данные заройте в землю там.
И в полночь ваши данные заройте в землю где? -
Припев:
Не горы не овраги и не лес,
Не океан без дна и берегов,
А поле, поле, поле, поле чудес,
Поле чудес, в стране дураков.
Крекс-пекс-фекс..
Полейте хорошенечко, советуем мы вам.
И вырастут ветвистые стартапы в темноте.
И вместо листьев денежки засеребрятся там.
И вместо листьев денежки зазолотятся где? -
Припев.
Право на обработку данных?
Kop M, ‘The Right to Process Data for Machine Learning Purposes in the EU’ (2021) 34 Harvard Journal of Law & Technology 1
Сегодня увидел у автора в Линкдине данную статью. Абстракт заинтересовал.
В статье приводятся аргументы в пользу закрепления в праве ЕС sui generis права на обработку данных для целей развития ИИ.
Всё это приурочено к планируемому принятию в ЕС Data Governance Act.
При этом автор выступает за довольно радикальную доработку этого документа. И, в частности, за исключение или существенное ограничение прав на данные в составе наборов данных, предназначенных для машинного обучения.
Конечный вывод — Евросоюзу не стоит слушать бизнес и искать компромисы, а стоит твёрдо и смело проводить политику, которую предпочитает автор.
Доводы, приводимые автором в защиту своих тезисов, кажутся довольно слабо проработанными. Контраргументы самому себе — нарочито не детализированными.
Возможно, вы иного мнения? Обсудим в комментариях.
В продолжение темы нашего митапа о дипфейках
@popmeh: "Как и было не раз предсказано, технологии дипфейков начали применяться для прямого обмана людей и манипуляции их мнением".
/channel/Popmeh/5901
Митап пройдёт уже сегодня в 19:00.
Проходите заранее по этой ссылке.
Машина имитирует человека: правовые аспекты
2 марта, во вторник, в 19:00 мы проводим первый голосовой митап телеграм-канала @robocounsel. Обсудим правовые аспекты имитации человека машиной в формате голосового митапа.
Участники: Анастасия Сковпень, Марина Рожкова, Максим Али, Владислав Архипов, Вадим Перевалов и я (Александр Тюльканов).
Контекст:
Майкрософт получил патент на чатбота, имитирующего конкретного человека. Запатентованное решение предполагает, что из различных источников создаётся агрегированный "индекс личности", на котором чатбот обучается её имитировать.
В то же время КНР вводит в свой Гражданский кодекс прямую норму, запрещающую подобную имитацию без согласия человека.
Похожие на нас персональные ассистенты, наши личные аватары да и просто создаваемые без нашего согласия дипфейки - в какой-то мере уже не будущее, а вполне себе настоящее.
Возникают вопросы, связанные с личными неимущественными правами, разумными ожиданиями и интересами других лиц, этикой и публичным порядком, патентными и иными интеллектуальными правами.
Для участия:
1) Сохраните приглашение в календарь.
2) В день мероприятия пройдите по ссылке.
Страхование ответственности при внедрении и эксплуатации автономных систем
В центре компетенций Фонда "Сколково" планируем обсудить с участием страховых компаний проблематику страхования ответственности при эксплуатации автономного и высокоавтоматизированного транспорта и иных робототехнических систем.
Если вы имеете отношение к робототехнике или страхованию и желаете поучаствовать дискуссии — пишите: @tyulkanov
Человекоцентричный ИИ в Хельсинки
Интересно, какие ИИ-системы применяет город? На каких наборах данных они натренированы? Какие риски осознаются и как адресуются эксплуатантом?
Для того, чтобы быть более прозрачным перед жителями в этих вопросах, город создал сайт с реестром своих ИИ-систем и информацией о них.
Через этот же сайт они собирают обратную связь от жителей, чтобы сделать городской ИИ более человекоцентричным.
Инициатива кажется нам более чем достойной для воспроизведения в российских условиях.
https://ai.hel.fi/en/ai-register/
Онлайн-конференция "Права человека в эпоху ИИ"
Мероприятие пройдет сегодня с 15:00 до 19:45 по Москве.
https://germanycoe.de/
Организаторы: МИД и Минюст Германии, Совет Европы.
Программа и спикеры — во вложении. Из представителей России — заместитель министра экономического развития Оксана Тарасенко (отвечает в России за федеральный проект "Искусственный интеллект").
Особый интерес может представлять выступление Грегора Строина с 16:55 до 17:15 по Москве. Он возглавляет Специальный комитет Совета Европы по ИИ (CAHAI) и поделится предварительными результатами работы этого органа. Основной вопрос — возможная разработка новой конвенции Совета Европы по защите прав человека в контексте применения ИИ.
Напомню, что Совет Европы к настоящему времени разработал свыше 200 международных договоров, включая ратифицированные Россией Европейскую конвенцию по правам человека и Ковенцию 108+ по персональным данным.
Все выступления будут доступны для восприятия одновременно на английском немецком, французском.
Дипфейки и GPT-3: гремучая смесь
В пятницу 21 мая в 15:00 по Москве Совет Европы проводит вебинар о том, как сочетаются технологии создания дипфейков и автоматической генерации текста. И о том, какие возможности это создаёт для создания дезинформации в промышленных масштабах.
В вебинаре участвуют Себастиан Халленслебен (Ph.D, Руководитель направления по цифровизации и ИИ, VDE e.V, Германия), Карен Мельхиор (депутат Европарламента, Дания) и Павел Гладышев (Ph.D, доцент University College, Ирландия).
Для участия пройдите по ссылке.
"Чёрный ящик" всегда точнее?
Часто говорят, что в машинном обучении мы должны идти на компромисс между точностью и интерпретируемостью моделей. Если модель простая и понятная ("стеклянный ящик"), то она обязательно менее точная, чем сложная непонятная модель ("чёрный ящик").
Специалист по исследованию данных проф. Синтия Рудин и её академическая коллега Джоанна Рэдин в своей статье утверждают: это ложная дихотомия. Аналогия между высокоточной роборукой, ошибающейся в 2% операций и способным объяснить свои действия хирургом, ошибающимся в 15% операций — умышленно или по неосторожности вводит в заблуждение.
Авторы статьи говорят, что по опыту очень часто оказывается возможным сконструировать простой и понятный, и при этом столь же или даже более точный "стеклянный ящик". Поэтому правильно сравнивать точные "чёрные ящики" и точные "стеклянные ящики".
Возможно, для поставленной аналитической задачи даже и не пытались создать, либо не приложили достаточно ресурсов, чтобы попытаться создать точный "стеклянный ящик".
Если задача связана с повышенным риском причинения вреда значимым интересам (например, жизнь и здоровье граждан, тайна частной жизни), нужно задаться вопросом, каковы были мотивы решения не пытаться создать и применить "стеклянный ящик".
В частности, причиной могла быть простая инерция, оставшаяся со времен, когда машиннообученные модели использовались в основном для решения задач в низкорисковых областях.
Или, например, банальный узкочастный интерес — сохранить в тайне секрет работы проприетарного "чёрного ящика" без учёта возможного ущерба другим лицам.
Европейское регулирование ИИ изменит бизнес-процессы во всём мире и станет "вторым GDPR"
Пол Старрет из PrivacyLabs завёл подкаст и в первый же выпуск пригласил Стивена Ву (Silicon Valley Law Group) — обсуждают проект Регламента ЕС об ИИ (Artificial Intelligence Act).
Те, кто давно в теме регулирования ИИ, могут помнить Стивена по его робомитапам и работе в Комитете по науке и технологиям Американской ассоциации юристов. Он — один из ведущих практикующих юристов по "робоправу" в США.
В подкасте Стивен даёт прогноз эффекта Регламента ЕС об ИИ на американские компании (с 12 мин. 21 сек.).
Он обращает внимание на то, что при выводе продукта на множество рынков компаниям, с точки зрения экономии на масштабе, проще подчинять продукты наиболее строгим из существующих требований.
Таким образом, отмечает он, как это уже было с GDPR, европейское регулирование ИИ в значительной мере трансгранично скорректирует бизнес-процессы в США и других странах, чьи продукты нацелены на рынок ЕС, по принципу "наибольшего общего делителя" ("highest common denominator").
У компаний, конечно, остаётся опция создавать продукты, подчиняющиеся регуляторным требованиям различной степени строгости для различных рынков, но с учетом ущерба для экономии масштаба такая экзотика вряд ли будет посильна большинству разработчиков.
Подписаться на подкаст Пола можно добавив адрес его rss-ленты в любом подкаст-приложении.
⚡️Опубликован проект Регламента ЕС о гармонизированных правилах в отношении ИИ (Artificial Intelligence Act)
Предложено запретить некоторые применения ИИ, в частности — внедрение для государственных нужд систем социального скоринга, в которых поведение человека в одном контексте влияет на его оценку в другом контексте.
Определены высокорисковые области применения ИИ и требования к процессам, системам и данным, используемым в таких областях.
В областях ограниченного или минимального риска предусмотрено, соответственно, ограниченное регулирование (в основном касающееся прозрачности взаимодействия с системой ИИ) или отсутствие регулирования.
Предусматривается процедура подтверждения соответствия систем ИИ для областей высокого риска, а также создание Европейского совета по ИИ для содействия стандартизации и введение регуляторных песочниц.
Добровольные кодексы поведения предполагаются для областей применения, не относящихся к высокорисковым.
Опубликован пресс-релиз, а также ответы на вопросы.
Наш митап скоро начнётся,
Вход для слушателей по этой ссылке.
Нас с вами 300! Спасибо, что читаете и посещаете наши митапы, дальше будет ещё интереснее!
Читать полностью…
Многосторонние консультации Совета Европы до 29 апреля по регулированию ИИ
Как вы, возможно, знаете, Советом Европы (СЕ) в 2019 году создан Специальный Комитет по искусственному интеллекту (Спецкомитет).
Спецкомитету поручено выработать общие для СЕ основы регулирования разработки и применения систем искусственного интеллекта.
В рамках данной задачи Спецкомитет анонсировал и до 29 апреля 2021 г. проводит многосторонние консультации. Результаты консультаций будут учитываться в дальнейшей работе Спецкомитета.
С учётом области деятельности СЕ, фокусом работы Спецкомитета являются не технические аспекты таких систем, а возможное влияние их разработки и применения на права человека.
Ожидаемым результатом работы являются проекты таких правовых инструментов, как конвенции Совета Европы и рекомендации Комитета министров Совета Европы.
Примеры ранее принятых и обязательных для России инструментов СЕ:
- Конвенция о защите прав человека и основных свобод,
- Европейская социальная хартия,
- Конвенция о защите физических лиц при автоматизированной обработке персональных данных,
- Европейская конвенция о пресечении терроризма
Участие в консультациях открыто Советом Европы для всех институциональных участников (то есть представителям любых организаций) в индивидуальном порядке.
Однако с учётом значимости итогов консультации для российского бизнеса в целом Центр компетенций при Фонде "Сколково" проведёт совещания для обсуждения и фиксации позиции экспертов по данной теме.
Совещания пройдут:
1) 23 апреля, в пятницу, с 17 до 19 ч.
2) 27 апреля, во вторник, с 15 до 17 ч.
Для участия в совещаниях Центра компетенций войдите в состав ТРГ 09 "Киберфизические системы".
Для подготовки к совещаниям ТРГ предлагаем использовать ресурсы СЕ и, прежде всего, исследование Спецкомитета (feasibility study).
Также в эту пятницу 16 апреля 2021 г. в 14.00 коллеги из Сбера проведут вебинар. На нём представители России в Совете Европы расскажут о деятельности Спецкомитета и о проходящих консультациях. Принять участие в вебинаре можно будет по ссылке.
Начало RIGF уже скоро. А на заднем плане Самизнаетекто. В этом топике будут комментарии по ходу мероприятия.
Читать полностью…
Искусственный интеллект и этика на RIGF
07.04 с 13:50 до 15:20 выступаю в секции по искусственному интеллекту и этике на Российском форуме по управлению интернетом.
Также участвуют:
- Эльза Ганеева, Microsoft
- Андрей Игнатьев, Центр Глобальной ИТ-Кооперации, МГИМО
- Ян Клейссен, Совет Европы
- Андрей Незнамов, Сбербанк
- Андрей Кулешов, МФТИ
- Максим Федоров, Сколковский институт науки и технологий
Модераторы: Карен Казарян, РАЭК, Анна Абрамова, МГИМО
Примечательно, что форум пройдёт в гибридном формате, а именно — все уставшие от онлайн-мероприятий приглашаются в Экспоцентр (Краснопресненская набережная, 14).
Регистрируйтесь здесь.
Автоматическое правоприменение и документооборот
Иногда приходится слышать такие предложения: давайте прекратим указывать, что постановление о штрафе вынес сержант Петров, если его полностью автоматически вынесла информационная система.
Мол, это и неправда, и несправедливо к Петрову.
Давайте просто: именем Российской Федерации, с вас 5000 рублей. С уважением, государственная автоматизированная система "Росштраф".
Возникает вопрос, не упускаем ли мы здесь то, как работает механизм ответственности в человеческом обществе? Не игнорируем ли мы основы социальной психологии?
Ведь, по крайней мере на первый взгляд, полное устранение из подобного документа указания на ответственного будет стимулировать безответственное применение автоматизированных систем. Так как ответственность будет «размазываться» на аморфный госорган или Российскую Федерацию или её субъект.
В таком случае никакое конкретное должностное лицо не будет мотивировано (угрозой потери должности, работы, денег, личной свободы) обеспечивать справедливость и отсутствие злоупотреблений в процессе принятия конкретного решения в отношении конкретного гражданина.
Да, у документов, созданных информационной системой, может и не быть человеческого автора. Но если речь идёт о документах, опосредующих принятие важных юридически значимых решений, у таких документов может — и должен — быть человеческий контролёр, ревизор. С учётом неизбежного несовершенства техники и всегда неполностью предсказуемой среды, в которой такая техника работает.
Нецелесообразность человеческого контроля на стадии создания конкретного документа не означает, что такой контроль должен пропасть вовсе.
Такой контроль лишь перемещается на следующий, более высокий уровень — контроль за процессом создания и исполнения документов (возможно, с верификацией отдельных документов в зависимости от степени риска).
С учётом этого, кажется правильным рассуждать не об устранении из подобных документов указания на конкретное должностное лицо, связанное с конкретным документом, а об изменении статуса лиц, указываемых в документах, соотвественно их реальной роли (контролёр, ревизор и т.п.).
Согласны, либо возражаете? Давайте обсудим в комментариях.
Наш первый митап здесь — уже в ближайший вторник!
Обо всём, что имитирует человека, с его согласия и без: дипфейки, аватары, чатботы и тёмные голокроны ситхов.
Сохраните приглашение в календарь:
/channel/robocounsel/109
Повышается ответственность за нарушения при обработке персональных данных
В контексте федеральной программы "Цифровая экономика" часто обсуждают, как расширение возможностей применения персональных данных (при принятии определённых мер предосторожности) могло бы способствовать развитию искусственного интеллекта, например — при построении более точных моделей в ходе машинного обучения.
Однако фактическая государственная политика в этом вопросе часто складывается с опорой скорее на кнут, нежели на пряник.
Об этом может свидетельствовать и данный законопроект, принятый сегодня Госдумой в третьем чтении.
Срок, в течение которого возможно привлечь к ответственности за административные правонарушения в области персональных данных теперь будет составлять не 3 месяца, а один год с момента их совершения.
Многие штрафы увеличены вдвое.
Также введена повышенная ответственность за некоторые повторные нарушения. Например, для юридического лица штраф составит:
- за повторную обработку персональных данных в не предусмотренных законодательством случаях или в целях, несовместимых с целями сбора данных — до 300 тыс. руб.
- за повторную обработку персональных данных без согласия субъекта в письменной форме, когда оно требуется — до 500 тыс. руб.
- за повторный отказ уточнить, заблокировать или уничтожить персональные данные по требованию субъекта или уполномоченного органа — до 500 тыс. руб.
Вебинар: Применение распознавания лиц в уголовном судопроизводстве
Когда:
2 февраля 2021 (вторник), с 16:00 до 18:00 по Москве.
Спикеры:
- Томас Ламперт (Ph.D), зав. кафедрой ИИ и анализа данных, Страсбургский университет,
- Кейт Робертсон, юрист по уголовным и административным делам, юридическая фирма Марксон Ло, Торонто,
- Сабина Глесс (Ph.D.), профессор уголовного права и процесса, Базельский университет.
Организаторы:
Страсбургский университет и Совет Европы
Трансляция будет доступна во время мероприятия по ссылке:
https://bit.ly/2MhHCnW
Опрос ИИ-разработчиков
ICT.Moscow проводят исследование о реалиях и барьерах, с которыми сталкивается отрасль. Результаты обещают опубликовать в марте.
Опрашивают руководителей профильных проектов и подразделений из бизнеса, госсектора и академсреды/НКО.
Если это ваш профиль, есть смысл поучаствовать — исследование будет более репрезентативным.
/channel/ICT_Moscow/4510
Майкрософт получил патент на чатбота, имитирующего конкретного человека
https://tinyurl.com/msbotpat
Запатентованное решение предполагает, что из различных источников создаётся агрегированный "индекс личности", на котором чатбот обучается её имитировать.
Возникают вопросы. Обсудим в комментариях?
1. Личные неимущественные права
В отношении живого человека такой чатбот вряд ли может быть создан без его согласия — иное было бы нарушением его личных неимущественных прав.
В частности, в последней редакции ГК КНР, вступившей в силу недавно, появилась прямая норма об этом.
2. Разумные ожидания и интересы других лиц
Чатбот, как минимум, не должен вводить в заблуждение других лиц в вопросе о том, с чем они в действительности взаимодействуют.
3. Этика и публичный порядок
Отдельный вопрос — совместимо ли использование такого чатбота, и при каких условиях, с уважением к человеческому достоинству, в том числе умерших?
4. Ценность и последствия получения такого патента
Тут интересно мнение @vychislit_po_IP