lgltech | Unsorted

Telegram-канал lgltech - LegalTech

12754

Использование биометрии,нейронные сети, искусственный интеллект (ИИ), Algorithmic Governance, цифровая подпись, ответственность машин, роботизация рабочих мест – и другие тренды в LegalTech. По вопросам сотрудничества @milada2 Автор @ladgn № 4778491192

Subscribe to a channel

LegalTech

💻ChatGPT и вопрос конфиденциальности данных.

Если вы когда-либо публиковали сообщения в Интернете, вы должны быть обеспокоены.

ChatGPT опирается на большую языковую модель, которая требует огромных объемов данных для функционирования и улучшения. Чем больше данных обучается модель, тем лучше она обнаруживает закономерности, предвидит, что будет дальше, и генерирует правдоподобный текст.

OpenAI, компания, стоящая за ChatGPT, предоставила инструменту около 300 миллиардов слов, систематически вырезанных из Интернета: книг, статей, веб-сайтов и сообщений, включая личную информацию, полученную без согласия.

Если вы когда-либо писали сообщение в блоге или обзор продукта, или комментировали статью в Интернете, есть большая вероятность, что эта информация была использована ChatGPT.
Сбор данных, используемый для обучения ChatGPT, проблематичен по нескольким причинам.

Во-первых, никого не спросили, может ли OpenAI использовать данные. Это явное нарушение конфиденциальности, особенно когда данные конфиденциальны и могут быть использованы для идентификации человека, членов нашей семьи или местоположения.

Даже когда данные общедоступны, их использование может нарушить то, что что можно назвать текстовой целостностью. Это фундаментальный принцип в юридических дискуссиях о конфиденциальности. Это требует, чтобы информация отдельных лиц не раскрывалась вне контекста, в котором она была первоначально создана.

Кроме того, OpenAI не предлагает отдельным лицам никаких процедур для проверки того, хранит ли компания их личную информацию, или для запроса ее удаления. Это гарантированное право в соответствии с Европейским общим регламентом по защите данных (GDPR), соответственно возникает вопрос соответствует ли ChatGPT требованиям GDPR.

Это “право на забвение” особенно важно в тех случаях, когда информация неточна или вводит в заблуждение, что, по-видимому, является обычным явлением в ChatGPT.

Наконец, OpenAI не платил за данные, которые он извлекал из Интернета. Частные лица, владельцы веб-сайтов и компании, которые их разместили, не получили компенсации.

Другой риск конфиденциальности связан с данными, предоставляемыми ChatGPT в форме пользовательских запросов. Когда возникает просьба к инструменту отвечать на вопросы или выполнять задачи, то в этом случае можем непреднамеренно передавать конфиденциальную информацию и размещать ее в открытом доступе.

Например, адвокат может предложить инструменту просмотреть проект соглашения о разводе, или программист может попросить его проверить фрагмент кода. Соглашение и код, теперь являются частью базы данных ChatGPT. Это означает, что их можно использовать для дальнейшего обучения инструменту и включать в ответы на запросы других людей.

Помимо этого, OpenAI собирает широкий спектр другой пользовательской информации. В соответствии с политикой конфиденциальности компании, он собирает IP-адреса пользователей, тип браузера и настройки, а также данные о взаимодействии пользователей с сайтом, включая тип контента, с которым взаимодействуют пользователи, используемые функции и действия, которые они предпринимают.

Читать полностью…

LegalTech

💻Подача в суды процессуальных документов в электронном виде внесена в федеральный реестр госуслуг.

Подписано постановление правительства о включении услуги «Подача в суды процессуальных документов в электронном виде, в том числе в форме электронных документов» в перечень услуг, сведения о которых размещаются в федеральном реестре государственных и муниципальных услуг (функций).

Подача в суд электронных документов была возможна с конца 2016 года, но только через сайты судов.

Читать полностью…

LegalTech

🏦Сбербанк планирует запустить собственную DeFi-платформу на блокчейне Ethereum.

Разрабатываемая Сбербанком платформа на базе системы децентрализованных финансов (DeFi) может быть запущена до мая текущего года, в марте начнется этап ее открытого тестирования. Об этом сообщил директор по продуктам лаборатории блокчейн Сбербанка Константин Клименко.

"Мы себе поставили большую цель – сделать российскую DeFi экосистему номер один (систему децентрализованных финансов - ИФ). Наша сеть сейчас работает в формате закрытого beta-тестирования. С 1 марта мы переходим в следующую фазу, это будет уже не beta-тестирование, а открытое тестирование".

"В конце апреля платформа будет полностью открыта, и тогда можно уже будет какие-то коммерческие операции на ней совершать".

По его словам, блокчейн-платформа будет совместима с Ethereum. Системой смогут пользоваться, в частности, пользователи криптокошельков MetaMask. Он добавил, что пользователи также смогут переносить свои криптоактивы из других платформ.

Клименко считает, что система DeFi в будущем может вытеснить традиционный рынок банковских услуг.

Читать полностью…

LegalTech

⚖️Судья в Колумбии использовал чат-бот ChatGPT для вынесения приговора.

Судья в Колумбии признал, что использовал инструмент искусственного интеллекта ChatGPT при принятии решения. Он также использовал прецедент из предыдущих постановлений, чтобы поддержать свое решение. Ответ ChatGPT соответствовал окончательному решению судьи.

Судья заявил, что ChatGPT и другие подобные программы могут быть полезны для “облегчения составления текстов”, но “не с целью замены” судей. Он также настаивал на том, что “задавая вопросы к заявке, мы не перестаем быть судьями, мыслящими существами”.

Судья утверждал, что ChatGPT выполняет услуги, ранее предоставленные секретарем, и делает это “организованно, просто и структурированно”, что может “улучшить время реагирования” в системе правосудия.

Он добавил, что использование в таких целях искусственного интеллекта никак не противоречит колумбийским законам и позволит судьям сэкономить значительный объем времени.

Читать полностью…

LegalTech

💻Программа проверяет договоры вместо юристов.

Компания Ironclad разработала программу AI Assist, которая действует на основании GPT-3 OpenAI, которая занимается проверкой договоров. и выявляет изменения, которые отличаются от утверждённых формулировок.

Изменения выявленные GPT-3, отображаются в режиме правок в Microsoft Word, соответственно пользователь может либо принять изменения, либо отклонить их.

Проверенные договоры умножаются на неделю или месяц работы, соотвественно AI Assist экономит бесчисленные часы ручной проверки, - пишет Кай ГоГвилт, соучредитель и технический директор Ironclad.

Кай ГоГвилт говорит, что AI Assist предлагает четыре преимущества для клиентов Ironclad:

- Они могут значительно ускорить процесс проверки договоров, мгновенно выявляя и исправляя нарушения в договорах и экономя время, затрачиваемое на проверку вручную;

- Они могут оптимизировать рентабельность инвестиций по своим существующим договорам, поскольку AI Assist вносит предложения по пересмотру на основе предпочтительного заранее утвержденного положения и языковых рекомендаций в существующем руководстве;

- Они могут обеспечить соответствие, используя установленную библиотеку предпочитаемых ими языков и положений, гарантируя, что каждый договор проверяется на соответствие стандартам компании, независимо от рецензента;

- Они могут делать больше с меньшими затратами, потому что использование генеративного ИИ для автоматизации переделок освобождает время для юридических групп для выполнения другой работы.

“Заключение контрактов, как известно, является ручным и трудоемким процессом – прекрасный пример того, как ИИ может помочь продвинуть отрасль вперед”, - сказал Квон главный юрисконсульт OpenAI.. “Как партнеры и пользователи Ironclad, мы считаем их технологии и лидерство невероятно эффективными как для бизнеса, так и для людей, которые ими управляют”.

Читать полностью…

LegalTech

®️Юристы пытаются понять, кому принадлежит контент, создаваемый нейросетями.

На создателей крупнейшей нейросети Stable Diffusion - компанию Stability AI - подали в суд. Причина - нарушение авторских прав на миллионы изображений, на которых обучали нейросеть. Основная цель иска - не возмещение убытков, а формирование новой правоприменительной практики. ПО словам генерального директора Getty Image Крейга Питерса, необходимо уважать интеллектуальную собственность.

Почти одновременно с фотобанком несколько художников подали коллективный иск на ту же Stability AI, а заодно и на продукты на ее основе - DeviantArt и Midjourney. По мнению авторов, эти нейросети также нарушают законы об авторском праве. Stable Diffusion парирует в ответ, что "права создателей не безграничны", все должно идти в ногу со временем и новыми технологиями. По сути, нейросеть, обученная на больших базах данных, создает сложную компиляцию.

"По поводу компиляций. Существует такое понятие, как сборник. На него действуют отдельные авторские права при условии соблюдения прав авторов каждого элемента сборника", - говорит специалист в области авторского права. "Но нейросеть, собирая тысячи, а то и миллионы исходников, создает в себе некую абстракцию, усредненный образ, можно сказать, идею, а идеи не подлежат охране.

Но, опять же, является ли результат работы нейросети идеей или просто сборником чужих работ будет решаться в судебных делах ближайшего будущего", - говорит он. Пока все подобные судебные истории происходят за пределами РФ. Но если перенести место действия в российское правовое поле, то и с точки зрения российского законодательства правда на стороне правообладателя. Если договориться, что произведения нейросетей в принципе являются объектами права.

"Согласно ст. 1259 ГК РФ к объектам авторских прав относятся производные произведения, то есть произведения, представляющие собой переработку другого произведения. Использованием же произведения в рамках ст. 1270 ГК РФ является в том числе перевод или другая переработка произведения. При этом под переработкой произведения понимается создание производного произведения (обработки, экранизации, аранжировки, инсценировки и тому подобного). Поэтому да, компиляция, использование части произведения в переработанном - это нарушение прав, если не получено согласие автора", - считает другой эксперт.

Читать полностью…

LegalTech

🇰🇿 В Казахстане одобрили новую редакцию закона «О цифровых активах».

Цифровые активы — обеспеченные и необеспеченные — не признаются на территории страны платежным средством, финансовым активом и финансовым инструментом.

В соответствии с новой редакцией документа лицензирование майнинга, должно проводиться по двум категориям. Первая категория — это майнеры, владеющие соответствующей инфраструктурой — центрами обработки данных (ЦОД) с соответствующими требованиями по оборудованию, расположению и безопасности. Вторая категория — это владельцы оборудования, арендующие для него места в ЦОДах и не претендующие на энергетическую квоту. Кроме обязательной аккредитации, вводятся отдельные требования для майнинг-пулов в части расположения их серверных мощностей на территории Казахстана и соблюдению правил информационной безопасности.

Разработаны прозрачные механизмы администрирования следующих налогов:
- корпоративный подоходный налог майнера. Рассчитывается с учетом стоимости продукта в момент его получения в качестве вознаграждения.
- корпоративный подоходный налог майнинг-пула с полученной комиссии за оказанные услуги.
- налог от прироста стоимости для физлиц при осуществлении операции с криптовалютой.
- корпоративный подоходный налог (КПН) с криптобирж как субъектов предпринимательской деятельности (криптобиржи выводятся из льготного режима налогообложения Международного финансового центра «Астана» (МФЦА) в части КПН).

Законопроект вводит положения, согласно которым майнеры смогут приобрести электроэнергию из общей энергосистемы только при наличии профицита и исключительно через биржу КОРЭМ (Казахстанский оператор рынка электрической энергии и мощности).

Читать полностью…

LegalTech

🤖Разработчику робота-адвоката пригрозили тюрьмой.

Британец, который планировал, чтобы "робот-адвокат" помог обвиняемому бороться с штрафом за нарушение правил дорожного движения, отказался от своих усилий после получения угроз возможного судебного преследования и тюремного заключения.

Джошуа Браудер, генеральный директор нью-йоркского стартапа DoNotPay, создал способ для людей, оспаривающих штрафы за нарушение правил дорожного движения, использовать аргументы в суде, созданные искусственным интеллектом.

Вот как это должно было работать: человек, оспаривающий штраф за превышение скорости, будет носить умные очки, которые одновременно записывают судебные разбирательства и диктуют ответы в ухо ответчика из маленького динамика. Система опиралась на несколько ведущих текстовых генераторов AI, включая ChatGPT и DaVinci.

Первая в истории юридическая защита с использованием искусственного интеллекта должна была состояться в Калифорнии 22 февраля 2023 года.

По словам Браудера, ему начали угрожали несколько коллегий адвокатов штата. Один из адвокатов грозил, что возможно направление жалобы в окружную прокуратуру, судебное преследование и тюремное заключение".В частности, адвокаты ссылались, что несанкционированная юридическая практика является проступком в некоторых штатах, наказуемым до шести месяцев в окружной тюрьме.

Лия Уилсон, исполнительный директор коллегии адвокатов штата Калифорния, рассказала, что в последнее время наблюдается всплеск юридического представительства, основанного на технологиях, который возник, чтобы заполнить пробел в доступной юридической консультации. "В 2023 году мы видим, как хорошо финансируемые, нерегулируемые провайдеры устремляются на рынок за недорогим юридическим представительством, снова поднимая вопросы о том, следует ли регулировать и как эти услуги", - сказал Уилсон.

Браудер также все еще надеется, что это не конец пути для ИИ в зале суда. "Правда в том, что большинство людей не могут позволить себе адвокатов", - сказал он. "Это могло бы изменить баланс и позволить людям использовать такие инструменты, как ChatGPT, в зале суда, что, возможно, помогло бы им выиграть дела".

Будущее роботов-юристов сталкивается с неопределенностью по другой причине, которая намного проще, чем экзистенциальные вопросы коллегий адвокатов: правила поведения в зале суда.

Запись аудио во время судебного разбирательства в прямом эфире запрещена в федеральном суде США и часто запрещена в судах штатов. Инструменты ИИ, разработанные DoNotPay, которые остаются полностью непроверенными в реальных залах суда, требуют записи аудио аргументов, чтобы алгоритм машинного обучения генерировал ответы.

"Я думаю, что название инструмента "роботом-адвокатом"действительно разозлило многих юристов", - сказал Браудер. Но технологии развиваются, а правила ведения судебных заседаний очень устарели".

Читать полностью…

LegalTech

🤖ChatGPT поступает в юридическую школу Университета.

Профессоры юридической школы Университета Миннесоты решили выяснить, сможет ли ИИ сдать экзамены в юридическую школу без помощи человека.

Для этого они использовали широко разрекламированную модель ИИ ChatGPT для генерации ответов на четырех реальных экзаменах в Юридической школе Университета Миннесоты.

Затем эти экзамены были «вслепую» оценены, как если бы их сдавал человек. Более 95 вопросов с множественным выбором и 12 вопросов для эссе ChatGPT были выполнены в среднем на уровне C +, что является низкой оценкой, но это проходной балл для всех четырех экзаменов.

Читать полностью…

LegalTech

👩‍💻На Госуслугах появилась возможность запретить сделки с недвижимостью без личного присутствия.

На портале «Гослуслуги» появилась возможность запретить все регистрационные действия с квартирой или домом, если владелец не присутствует на сделке.

Иногда мошенники могут незаконным путём провести сделку с недвижимостью без владельца, например по поддельной доверенности. Для защиты от подобных ситуаций можно внести специальную отметку в ЕГРН о том, что сделки с имуществом могут проводиться только в присутствии собственника.

Раньше для этого нужно было писать заявление в МФЦ или заполнять специальную форму в Росреестре. Теперь это можно сделать на Госуслугах — запретить все регистрационные действия с квартирой или домом, если владелец не присутствует на сделке.

Чтобы подать заявление, нужна подтверждённая учётная запись Госуслуг и приложение «Госключ» с усиленной квалифицированной электронной подписью (УКЭП). Она оформляется бесплатно прямо в приложении, для этого нужен загранпаспорт нового образца и телефон с NFС-модулем.

Запись появится в ЕГРН в течение 5 рабочих дней, а в личный кабинет придёт уведомление о внесении записи. Точно так же можно снять такой запрет, если он был установлен раньше.

Читать полностью…

LegalTech

🇺🇸Подано новое ходатайство в рамках судебного процесса по вопросу авторского права ИИ.

В ноябре 2018 года Стивен Талер подал заявку на регистрацию произведения в бюро по авторским правам, указав ИИ в качестве автора работы и заявив, что оно было “создано автономно машиной”. Ведомство отклонило заявку, ответив: “Мы не можем зарегистрировать эту работу, потому что в ней отсутствует авторство человека, необходимое для подтверждения претензии об авторском праве”.

Другие запросы о пересмотре, поданные Талером в сентябре 2019 года, мае 2020 года и феврале 2022 года, были аналогичным образом отклонены, опять же из-за отсутствия “традиционного человеческого авторства”.

Действующий закон об авторском праве Соединенных Штатов предоставляет авторские права “автору или авторам произведения”. Ходатайство Талера, поданное 10 января 2023 года адвокатом Райаном Эбботтом, утверждает, что рассматриваемая работа “удовлетворяет требованиям, изложенным в Законе об авторском праве”, поскольку Талер “инвестировал и владеет оригинальной собственностью ИИ ... ее результаты всех видов автоматически переходят к нему”, особенно в контексте работы по найму.

В иске также отмечается, что бюро по авторским правам не установило, связано ли его “требование о человеческом авторстве” с фактическим авторством или оригинальностью. Однако в любом случае утверждается, что работа соответствует обоим стандартам.

“Фактически, система искусственного интеллекта создала произведение искусства, которое объективно соответствует стандарту оригинальности”, - говорится в ходатайстве. “Работа"обязана своим происхождением"машине творчества ИИ и была"продуктом независимых усилий автора", что является небольшим препятствием, необходимым для достижения авторского права”.

Кроме того, в ходатайстве подчеркивается, что Верховный суд США ранее постановил, что “технологические изменения должны учитываться при толковании Закона об авторском праве”. Распространение защиты на произведения, созданные искусственным интеллектом, соответствовало бы такому мандату, говорится в иске, “для содействия созданию и распространению произведений”, таким образом содействие прогрессу искусств и наук.

Читать полностью…

LegalTech

Норвегия сделала платформу для управления акциями компаний на публичном блокчейне.

Это приложение, запущенное на Arbitrum (ультрадешевые транзакции), которое позволяет сотням тысяч норвежских компаний вести учет состава акционеров, залог и передачу акций, вести сделки с капиталом и проводить аудит так, что акции представлены токенами на публичном Ролапе Эфира. Данные об акционерах приватны и лежат в Ceramic (децентрализованная, нецензурируемая база данных без блокчейна). Доступ и работа с данными возможна через TheGraph. То есть, используется прям топовый современный стек.

Код открыт и публичен, и вы можете его использовать в своей собственной небольшой, но богатой нефтью и газом стране.

Читать полностью…

LegalTech

👩‍💻5 трендов Legaltech в 2023 году.

Кибербезопасность по-прежнему имеет решающее значение.
Одной из тенденций, которая продолжает оставаться приоритетной для современных юридических фирм, является потребность в безопасных цифровых инструментах, которые обеспечивают безопасность конфиденциальных данных. В конце концов, кибербезопасность имеет решающее значение для современных юридических фирм, в основном из-за вопросов, касающихся утечки электронных данных и защищенной информации клиентов.

Расходы на Legaltech растут.
Юридические фирмы увеличивают свои расходы на юридические технологии, и эта тенденция, похоже, сохранится в 2023 году и далее. Согласно прогнозу Gartner, расходы на юридические технологии возрастут примерно до 12% от внутренних бюджетов к 2025 году, что в три раза больше, чем в 2020 году.

Legaltech технологии помогают снизить эксплуатационные расходы.
В то время как расходы на юридические технологии растут, у юридических фирм и юридических отделов нет лишних денег, что вынуждает многие компании практически во всех отраслях искать способы оптимизировать свою деятельность и сэкономить время и силы на выполнении важнейших задач. Таким образом, в ближайшие месяцы многие юридические практики будут изучать способы повышения эффективности с помощью технологий. Одним из популярных решений является автоматизированные процессы приема и рабочие процессы. Автоматизация может помочь фирмам быстрее и с лучшими результатами рассматривать дела при правильном использовании.

Растет использование виртуальных помощников по правовым вопросам.
Поскольку многие юристы и административные работники стремятся работать из дома, на юридическом рынке можно ожидать резкого увеличения числа виртуальных помощников по правовым вопросам, которые работают вне офиса и, в свою очередь, нуждаются в доступе к данным по делам, где бы они ни решили работать. Многие юридические фирмы уже используют такие технические инструменты, как программное обеспечение для видеоконференцсвязи и облачное программное обеспечение для управления практикой, чтобы повысить удовлетворенность сотрудников и снизить затраты на содержание физического офиса. По мере продвижения вперед ожидается все большая цифровая трансформации в правовом пространстве и новых технологических достижений для ее поддержки.

Блокчейн и криптография становятся все более распространенными.
Криптовалюты все еще находятся в зачаточном состоянии в цифровой экономике, и хотя многие инвесторы используют их в качестве актива, они обычно не принимаются в качестве оплаты. Однако, похоже, ситуация скоро изменится, и многие компании теперь соглашаются принимать криптовалюту в качестве оплаты, в том числе многие юридические фирмы. Поскольку несколько крупных игроков юридической индустрии в настоящее время используют криптовалюту, вполне вероятно, что ваша фирма столкнется с клиентом, который захочет использовать ее в качестве оплаты в 2023 году. Вы должны понимать риски и соображения, связанные с альтернативными платежами, чтобы принимать криптовалюту этично. Юридические технологии также могут начать использовать криптографию, например, системы управления практикой, которые позволяют осуществлять крипто-платежи за юридические услуги или инструменты для обмена криптографией или ее хранения для юридических фирм.

Читать полностью…

LegalTech

👥Дипфейки и их (не)запланированные последствия.

Основные моменты из статьи Sandra Ristovska для издания American Bar Association.

Быстрое распространение технологий дипфейков, которые в настоящее время используются различными субъектами для создания синтетических видео для широкого круга как творческих, так и вредоносных целей. Однако, большинство дипфейков не встречает быстрого и успешного разоблачения. Иногда подлинность подозрительного видео не может быть легко проверена или определена как подделка.

В основе любой дискуссии об измененных или изобретенных изображениях лежит постоянная озабоченность силой визуального убеждения. Люди доверяют своему зрению больше, чем другим органам чувств. Таким образом, изображения более когнитивно и эмоционально возбуждают, чем другие средства коммуникации. Легкость, с которой мозг обрабатывает их, может усилить веру в то, что содержание соответствует действительности.

Самой возможности дипфейков было достаточно, чтобы посеять сомнения с потенциально пагубными последствиями. Господствующее в культуре представление о том, что видеть значит верить, уже давно привело к бинарному представлению образов как подлинных или поддельных, прозрачных или непрозрачных. Эта логика наивного реализма — то есть ощущение, что изображения могут обеспечить объективный или непосредственный доступ к реальности — формирует то, как люди видят визуальные медиа.

Прямой запрет на дипфейки, безусловно, нарушил бы защиту свободы слова. Поэтому более подходящий набор соображений включает вопросы о том, могут ли создатели вредоносных дипфейков нести гражданскую или уголовную ответственность. Уголовная ответственность может быть наступить в соответствии с существующими законами, такими как законы о мошенничестве или киберпреследовании.

Исследователи в области форензики, с другой стороны, подняли вопрос о дипфейках, усложняющих роль визуальных медиа в качестве доказательств в суде. Например, обсуждают возможность защиты от дипфейков (утверждая, что подлинное видео является фальшивкой), которая перекладывает бремя доказывания. Однако доказать отрицательный результат вне разумных сомнений может быть юридически невозможно. Второй сценарий — когда в качестве доказательства принимается дипфейк, считающийся подлинным. Таким образом, исследователи предлагают обучать судей и присяжных тому, как оценивать дипфейки. Такие усилия, однако, могут быть ограничены по объему без решения основной проблемы, связанной с унифицированным руководством и приложениями для обработки видео в качестве доказательства.

В США, например, видео используется в 80% уголовных дел, но в американских судах, от федеральных и государственных до Верховного суда, отсутствуют четкие правила и стандарты того, как видео может использоваться и представляться в качестве доказательства. Лежащее в основе распространенное предположение состоит в том, что видеодоказательства не должны регулироваться едиными стандартами, потому что увидеть значит поверить. Иными словами, в суде, как и в обществе, господствует логика наивного реализма. В результате судьи, адвокаты и присяжные по-разному относятся к видео, что может привести к непоследовательному и небезопасному отправлению правосудия. Без унифицированного научно обоснованного руководства для облегчения более качественной оценки видео в качестве доказательства в суде визуальные медиа, а не только дипфейки, будут только расти как вызов на пути к равному и справедливому правосудию.

Читать полностью…

LegalTech

🤖 Робот-адвокат впервые будет защищать человека в суде.

”Первый в мире робот-адвокат" рассмотрит дело в суде в феврале 2023 - помощник юриста с искусственным интеллектом (ИИ) поможет обвиняемому бороться с штрафами за нарушение правил дорожного движения.

ИИ, объявленный ”первым в мире роботом-адвокатом" создавшим его стартапом DoNotPay, будет работать на смартфоне и прослушивать аргументы суда в режиме реального времени, прежде чем сообщать ответчику, что говорить, через наушники.

Разработчики заявили, что потребовалось много времени, чтобы обучить помощника ИИ DoNotPay прецедентному праву, охватывающему широкий спектр тем, и убедиться, что приложение придерживается истины.

Программное обеспечение приложения ИИ было настроено таким образом, что оно не реагирует автоматически на все, что слышит в суде. Вместо этого он выслушает аргументы и проанализирует их, прежде чем проинструктировать ответчика, как реагировать.

Разработчики объяснили, что конечная цель - заставить свое приложение полностью заменить некоторых адвокатов, чтобы сэкономить деньги ответчиков.

Читать полностью…

LegalTech

🇦🇪 Дубай вводит новые правила для деятельности криптокомпаний.

Регулятор Дубая по виртуальным активам (VARA) опубликовал новые правила о виртуальных активах и связанной с ними деятельности. В новых правилах говорится, что компании должны получить разрешение и соответствующие лицензии для работы в Дубае.

Согласно новым правилам компании должны будут соблюдать четыре общих обязательных раздела правил:

- Свод правил соответствие требованиям регулятора;
- Свод правил управление рисками;
- Свод правил о технологиях и информации;
- Свод правил о поведении на рынке;

Кроме того, были разработаны семь разделов, которые регулируют конкретные виды деятельности виртуальными активами:

- Свод правил консультационных услуг;
- Свод правил брокер/дилерских услуг;
- Свод правил депозитарных услуг;
- Свод правил биржам;
- Свод правил предоставления услуг кредитования и заимствования;
- Свод правил в области платежей и денежных переводов;
- Свод правил в области управления и инвестиционных услуг.

Читать полностью…

LegalTech

👮‍♂️Суд в РФ вынес первый приговор, признав виновным в мошенничестве участника P2P торговли.

В 2022 году трейдер продал код биржи Garantex на сумму 900 тысяч рублей и после получения средств на его карту, на эту карту был наложен арест по уголовному делу. Человек обратился в суд, вынесший арест, получил постановление, где говорилось, что арест наложен по уголовному делу о мошенничестве.

Он совершенно спокойно обратился в районный отдел МВД с целью объяснить следователю, что он не при чем и чтобы следователь снял арест. При первом появлении у следователя его задержали.

Впоследствии выяснилось, что трейдер стал невольным участником мошеннической схемы «треугол», в результате которой, код от биржи трейдер отправил мошеннику, трейдер в свою очередь получил деньги от жертвы, а жертва переведя деньги не получила ничего.

Следователи утверждали, что, предоставив реквизиты карты, трейдер находился в сговоре с теми, кто обманывал потерпевшую. Полученный им процент от сделки обвинение определило как «преступное вознаграждение».

Доказательство строились вокруг того, что раз трейдер «допускал» возможность получения «грязных» денег при продаже кодов, то он является пособником злоумышленников.

Трейдера признали виновным в мошенничестве в крупном размере и пособничестве. Его приговорили к двум годам условно, несколько месяцев из которых он уже провел в СИЗО.

Делом занимаются юристы агентства Cartesius.

Читать полностью…

LegalTech

🇦🇪Первый Международный суд по цифровой экономике в Дубае: как он работает.

Отдел Digital Economy Court (DEC) был создан в Международном финансовом центре Дубая в 2021 году. В его обязанности входил надзор за национальными и транснациональными спорами, осложненными современными технологиями: блокчейном, ИИ, big data или даже беспилотными летательными аппаратами. Первые процессы суд провел 2022 году. Один из них, например, касался вопросов безопасности передачи криптовалюты от покупателя к продавцу.

Теперь же у DEC появляются собственные правила: соответствующую 58-ю главу добавили в свод правил судов DIFC. Старший партнер BSA Уильям Прасифка считает, что новые нормы позволят рассматривать споры в сфере цифровой экономики с более глубоким пониманием и эффективностью.

В соответствии с новыми правилами, по умолчанию все судебные процессы проводятся дистанционно, а досудебный обмен документами осуществляется в электронном виде — через почту или соцсети. Правила также предусматривают использование интеллектуальных форм и программного обеспечения в судебных разбирательствах.

«Новые правила предусматривают, что Суд цифровой экономики будет обладать выраженными полномочиями в отношении цифровых активов. Например, в соответствии с ч. 58.11 новых правил Суд цифровой экономики может приказать стороне «управлять, изменять, подписывать или отменять любой цифровой актив, используя любую цифровую подпись, криптографический ключ, пароль или другой доступный ему цифровой механизм доступа или контроля», — добавил Прасифка. До создания DEC у судов DIFC не было таких полномочий, отметил юрист.

Новые правила позволят назначить одного судью — эксперта в области цифровых технологий, который будет отвечать за работу DEC.

Читать полностью…

LegalTech

🎓 ОТКРЫТАЯ ЛЕКЦИЯ онлайн-курса Б-152 по защите персональных данных

Онлайн-школа Data Protection Officer от Б-152 приглашает на 1 день стать ее студентом.

Подробности и регистрация.

Автор курса Максим Лагутин, со-основатель Б-152 и ведущий эксперт по защите персональных данных, проведет открытую лекцию на тему «Документирование обработки персональных данных: договор поручения»:

▪️Требования к поручению
▪️ Форм-факторы поручения
▪️ Что нужно заложить в поручение
▪️ Домашнее задание
▪️Ответы
на вопросы

Вы получите возможность увидеть то, к чему получают доступ только студенты курса, и узнаете, как проходят занятия.

🗓 7 февраля (вторник)
⏰ 12.00 (мск)
💻 Онлайн

Зарегистрироваться

🎁Бонус при регистрации — ТОП полезных ресурсов по теме Privacy и ИБ для работы и отдыха.

#Реклама

Читать полностью…

LegalTech

🚗Министерство юстиции США запросило у Tesla информацию о системах помощи водителю Full Self-Driving и Autopilot.

Tesla Inc. сообщила, что Министерство юстиции США потребовало у нее предоставить документы, связанные с ее системой помощи водителю Autopilot, а также с ее опцией Full-Self Driving.

Обе эти системы не позволяют обходиться без участия водителя в управлении транспортным средством, но не все потребители осведомлены об этом адекватным образом. Теперь отдельное уголовное расследование ведёт Министерство юстиции США.

По версии органов следствия, компания могла ввести в заблуждение потребителей, создав у них ложное впечатление, что машины могут управляться автоматически, без вмешательства человека.

В настоящий момент описания соответствующих функций электромобилей Tesla на сайте автопроизводителя содержат аннотации, поясняющие, что данные возможности не делают транспортное средств автономным, а водителю надлежит сохранять контроль за дорожной ситуацией и держать руки на руле в большинстве случаев. Расследование такого уровня, как поясняют эксперты, грозит Tesla серьёзными обвинениями в адрес самой компании или отдельных её руководителей. При этом исход расследования вполне может оказаться безобидным для Tesla и её руководства, если не будет доказана небрежность или злой умысел в описании возможностей бортовых систем одноимённых электромобилей.

Читать полностью…

LegalTech

Жители Москвы смогут проверить законность апартаментов через чат-бот

Жители Москвы смогут проверять законность апартаментов при помощи чат-бота, который появится в 2023 году. Об этом сообщил начальник столичной Госинспекции по недвижимости.

"Мы уже тестируем и в ближайшее время введем в эксплуатацию чат-бот, который будет призван информировать людей о законных и незаконных апартаментах. Мы эту тему на 2023 год для себя определяем как весьма актуальную», — сказал он на пресс-конференции.

Благодаря чат-боту можно будет узнать, допускаются ли на объекте недвижимости временное проживание или апартаменты. Для этого достаточно будет ввести её адрес или кадастровый номер.

Проверка законности апартаментов началась в столице год назад с целью пресечения мошенничества. В Госинспекции разъясняли, что при выявлении незаконных апартаментов застройщику грозит административная ответственность за нарушение требований и ограничений по использованию земельного участка. В ряде случаев объект может быть признан самовольной постройкой.

Источник

Читать полностью…

LegalTech

🎤Союз дикторов России предложил урегулировать использование синтезированного ИИ голоса.

Союз дикторов России просит Госдуму установить специальное регулирование синтеза человеческого голоса с помощью технологий искусственного интеллекта (ИИ).

Представители союза говорят о случаях кражи их голосов и опасаются снижения доходов на фоне распространения технологий. Предлагается, в частности, ввести лицензии на использование определенного голоса. Компании, синтезирующие речь, говорят, что заботятся о легитимности технологии. Но юристы подтверждают, что голос никак не защищен от копирования.

В письме указывается о фактах «кражи» голоса с помощью ИИ: «Нет ни норм, ни практики, ни понимания, как писать претензию. Заказчики ссылаются на договор, в котором есть пункты про отчуждение прав, право на переработку и право передачи третьим лицам».

Члены союза предлагают закрепить запрет на отчуждение прав исполнителей при использовании голосового синтеза и перейти на лицензионные договоры «с четко определенным сроком действия», как в сфере защиты прав на товарный знак. Также предлагается закрепить норму о том, что запись синтезированного голоса может использоваться только в конкретном проекте.

Эксперты считают, что ««понять дикторов можно, но с точки зрения закона реализация их инициативы невозможна просто в силу того, что законом защищается не голос, а фонограмма, созданная с его применением».

Еще одно мнение, что внесение изменений в российское законодательство, которые могли бы сделать это возможным, не имеет смысла, поскольку обрабатывать фонограммы дикторов тогда просто будут в других странах.

Читать полностью…

LegalTech

💻Криптовалюта в банкротстве: как ее найти и продать.

По закону криптовалюта — имущество банкрота. То есть ее можно включить в конкурсную массу, чтобы реализовать, а средства пустить на расчет с кредиторами. Но на практике это сделать сложно.
Первое, что должен предпринять арбитражный управляющий, — через запрос выяснить у должника о наличии цифрового актива и при его наличии попросить добровольно передать логин и пароль от него. Если тот отказывается это делать, можно обратиться в суд с ходатайством об истребовании информации.

Такие заявления зачастую удовлетворяются. В делах № А07-16312/2021 и № А42-6381/2021 суды указали на необходимость передать управляющему сведения о криптовалюте. Управляющий может потребовать через суд предоставить доступ к цифровому кошельку, если должник дал неверные данные. Так, в деле № А40-12639/2016 финуправляющий не смог войти в биткоин-кошелек по реквизитам. Три инстанции обязали банкрота лично у нотариуса передать управляющему данные доступа к биткоин-кошельку и присутствовать при авторизации.

При подаче подобных заявлений управляющим лучше сразу указывать способ предоставления данных об активе. Так можно избежать ситуации, когда суд вынесет акт, который невозможно исполнить. Сведения о биткоин-кошельке (уникальный номер, логин, пароль) управляющему надо получать в машиночитаемом виде файлом формата .doc или .docx на электронном носителе. А еще лично присутствовать при входе в биткоин-кошелек у нотариуса.

Но есть другие способы узнать о крипте должника. Можно направить запросы в налоговую, там могут раскрыть информацию о задекларированных криптоактивах.

Еще управляющий может направить запросы криптобиржам и криптоплатформам через их службы поддержки. Некоторые из них даже размещают на своих интернет-страницах информацию о порядке взаимодействия с управляющими. Так, у американской компании Coinbase, которая управляет платформой обмена криптовалютами, есть целая команда для помощи по банкротным делам. На сайте описано, как именно обращаться с запросом: можно отправить его на почту или позвонить.

Крупнейшая биржа Binance требует, что судебный акт поступил к ним только через официальный адрес электронной почты суда.

Читать полностью…

LegalTech

📂Утвержден перечень услуг связанных с ЦФА и (или) цифровыми правами, не облагаемых НДС.

Правительство РФ утвердило перечень услуг связанных с ЦФА и (или) цифровыми правами, которые освобождаются от обложения НДС:

1. Услуги, оказываемые операторами инвестиционных платформ по присвоению рейтинга лицу, привлекающему инвестиции, и (или) инвестиционному предложению (в случае, если привлечение инвестиций осуществляется путем приобретения цифровых финансовых активов и (или) цифровых прав, включающих одновременно цифровые финансовые активы и утилитарные цифровые права).

2. Услуги, оказываемые операторами информационных систем, в которых осуществляется выпуск цифровых финансовых активов, операторами обмена цифровых финансовых активов и (или) операторами инвестиционной платформы по признанию лица квалифицированным инвестором для целей совершения сделок с цифровыми финансовыми активами и (или) цифровыми правами, включающими одновременно цифровые финансовые активы и утилитарные цифровые права.

3. Услуги по предоставлению информации, отчетов, справок и выписок оператором информационной системы, в которой осуществляется выпуск цифровых финансовых активов, оператором обмена цифровых финансовых активов и оператором инвестиционной платформы в связи с осуществлением ими соответствующей деятельности.

4. Услуги по осуществлению без использования номинальных счетов расчетов, связанных с выпуском цифровых финансовых активов и (или) цифровых прав, включающих одновременно цифровые финансовые активы и утилитарные цифровые права, периодическими выплатами по таким цифровым финансовым активам и (или) цифровым правам, выкупом таких цифровых финансовых активов и (или) цифровых прав, а также по сделкам с ними.

5. Услуги по предоставлению пользователям технических средств для удаленного доступа к информационным системам (инвестиционным платформам), в которых осуществляются выпуск, учет и (или) обращение цифровых финансовых активов и (или) цифровых прав, включающих одновременно цифровые финансовые активы и утилитарные цифровые права.

Постановление вступает в силу с 16.01.2023 г. и распространяется на правоотношения возникшие с 14.07.2022 г.

Читать полностью…

LegalTech

Как нейронные сети заменят юристов?

В мире развивающихся технологий юристы могут испытывать некоторое давление, поскольку программное обеспечение Neural Network становится все более популярным с точки зрения автоматизации юридических процессов. Например, DeepVault уже использует ИИ на основе нейронной сети для поиска нарушений в контрактах, что экономит время и деньги для компаний, которые ищут расхождения в своих соглашениях.

Нейронные сети могут выполнять сложные задачи, такие как распознавание шаблонов и объектов или распознавание тенденций и прошлых практик, чтобы определить точность любого документа. Эта технология еще не полностью заменила юристов, но может наступить день, когда нейронные сети будут обрабатывать большинство юридических процессов и позволят опытным специалистам сосредоточиться на других задачах, таких как разработка стратегий и более сложные дела.

Использование ИИ не только помогает убедиться в правильности договоров с меньшим количеством ошибок, но также может повысить скорость судебных разбирательств, сняв с юристов некоторые утомительные задачи. В определенных сценариях ИИ может дать лучшие результаты, чем сами юристы, потому что он объективно оценивает все данные, а не использует субъективные влияния, такие как эмоции и предубеждения, которые присутствуют при выполнении рутинных задач проверки.

По мере дальнейшего совершенствования этой технологии и расширения ее возможностей вскоре может наступить день, когда юристам больше не нужно будет выполнять повторяющуюся работу благодаря наличию нейронных сетей на основе ИИ, которые могут помочь выполнять эти задачи за них.

Поздравляю, вы только что прочитали текст полностью сгенерированный нейронной сетью chatGPT.

Также протестировал как "нейронка" справляется с простыми претензиями. Она может составить текст претензии по запросу в одно предложение. Ссылки на российские законы в претензии верные. По немецкому праву еще не проверил, но очевидно, что немецкое право "нейронка" обрабатывает лучше.

Читать полностью…

LegalTech

💻Продлевается переходный период на единую технологию обмена машиночитаемыми доверенностями.

14.01.2023 ФНС разместила информацию, о продлении до 1 сентября 2023 года эксперимента по апробации единой технологии обмена машиночитаемыми доверенностями (МЧД) юридическими лицами и индивидуальными предпринимателями через ее цифровую платформу на базе распределенного реестра блокчейн. Это связано с принятием Федерального закона от 19.12.2022 N 536-ФЗ, который внес поправки в Федеральный закон от 30.12.2021 N 443-ФЗ.

В рамках этого проекта обмен машиночитаемыми доверенностями уже осуществляют представители крупного бизнеса, операторы ЭДО, коммерческие банки, Федеральное казначейство, Федеральная нотариальная палата, Банк России, Банк ВТБ (ПАО), Федеральная таможенная служба, Росалкогольрегулирование, Росстат, АО "Гознак" и АО "Почта России". Продление переходного периода позволит еще большему количеству участников электронного документооборота заранее подготовиться к работе с МЧД в связке с квалифицированным сертификатом электронной подписи своих представителей - физических лиц.

С 9 декабря 2022 года участникам единой технологии ФНС России стал доступен обмен МЧД, оформленными в порядке передоверия. Это значительно облегчает работу филиалов и различных представительств. Алгоритмы технологии блокчейн-сетей постоянно проверяют цепочки передоверия и своевременно уведомляют участников о прекращении действия МЧД или цепочек МЧД, если любая из них была аннулирована.

Читать полностью…

LegalTech

🌍Опубликован проект Принципов совершения сделок с цифровыми активами.

Международным институтом унификации частного права (УНИДРУА), имеющий статус межправительственной организации, опубликовал проект Принципов совершения сделок с цифровыми активами.

Цифровые активы рассматриваются как объекты имущественных прав. Контроль над цифровым активом рассматривается как эквивалент владения движимой вещью.

Устанавливается принципы идентификации лица, контролирующего цифровой актив, а также условия добросовестности приобретения цифровых активов.

До 20 февраля 2023 года можно подать свои замечания или комментарии к проекту.

Читать полностью…

LegalTech

Защита Интеллектуальной Собственности в 2023 — лакомый кусок для юриста.
Сегодня нужно не только создавать качественный продукт, но и уметь защищать его на постоянной основе.

➡️ Бизнес, который понимает ценность этой защиты — имеет конкурентное преимущество.
➡️ Юрист, который оказывает эти услуги — востребован и высоко оплачивается.

Практика по защите Интеллектуальной Собственности применима в любой знакомой юристу сфере:
ритейл, медиа, реклама, маркетинг, дизайн, кино, IT, наука и исследования, онлайн-обучение, инвестиционный бизнес, корпоративная работа и многое другое.

Хотите примерить на себя роль специалиста по Интеллектуальной Собственности и узнать, как зарабатывать от 100 000 рублей?

❗️ Тогда регистрируйтесь по ссылке на бесплатный 3-дневный онлайн-практикум «Правовой советник по интеллектуальной собственности»:

https://clck.ru/33EVEC

✅ Поймёте подходит ли вам специализация «Правовой советник по интеллектуальной собственности»;
✅ Получите базовые знания, с которыми можно начать работу:

▪️ Защита интеллектуальной собственности бизнеса на примере популярных ниш;
▪️ Виды товарных знаков и особенности регистрации;
▪️ Корпоративные отношения;
▪️ Как увеличить капитализацию компании при помощи интеллектуальной собственности.


https://clck.ru/33EVEC

#Реклама

Читать полностью…

LegalTech

🇨🇳Китай использует блокчейн для развития системы «интеллектуальных судов».

В мае 2022 года Верховный народный суд Китайской Народной Республики издал серию публикаций «Мнения о повышении эффективности применения блокчейна в судебной сфере» («Мнения»).

С помощью технологии блокчейн Верховный народный суд построил интеллектуальную судебную систему более высокого уровня на базе единой судебной блокчейн-платформы, имеющей национальный охват. Технология блокчейн используется на платформе для обработки данных, таких как электронный следственный материал, электронные архивы, информация о расследованиях, осуществляемых правоохранительными органами, и контроле за их деятельностью, информация о жалобах и ходатайствах, журналы регистрации оперативной деятельности и многое другое.

Единая судебная блокчейн-платформа представляет собой централизованную систему хранения и проверки судебных данных, которой могут пользоваться отдельные лица и суды всех уровней по всему Китаю Ведется работа по активному изучению возможностей применения технологии блокчейн во всех местных народных судах.

В «Мнениях» поясняются общие требования к применению блокчейна в судебной сфере и указывается, что задача заключается в создании взаимосвязанного "блокчейн-альянса", который повысит эффективность обмена информацией между народными судами и всеми сегментами общественной системы. Поставлена цель построить такой альянс к 2025 году.

При этом блокчейн будет всесторонне применяться в различных процедурах разрешения споров, судебных разбирательствах, при рассмотрении дел и в исполнительном производстве, а также в работе органов юстиции. Кроме того, взаимосвязанный судебный блокчейн-альянс станет неотъемлемой частью экономических и социальных систем Китая и поможет сформировать передовую блокчейн-модель мирового уровня для судебной сферы, адаптированную к условиям Китая.

В «Мнениях» предлагается создать открытую судебную блокчейн-платформу для совместного использования народными судами и ускорить формирование многоцелевого альянса для взаимодействия судебной блокчейн-платформы и всех других сфер в целях обеспечения всеобъемлющего синергетического эффекта на постоянной основе. Появление платформы на основе блокчейна для проверки судебных данных даст всем сторонам возможности проверять подлинность данных, относящихся к медиации, электронному следственному материалу и судебным документам, а также других судебных данных.

Верховный народный суд построил интеллектуальную судебную систему более высокого уровня на базе единой судебной блокчейн-платформы, имеющей национальный охват.

Во «Мнениях» описываются четыре типичных сценария применения технологии блокчейн, при которых ее использование в судебной сфере расширится.

Во-первых, предлагается использовать возможность формировать с помощью блокчейна защищенные от несанкционированного доступа данные для повышения доверия к судебной власти путем предоставления технических гарантий безопасности судебных данных, достоверности электронного следственного материала, соблюдения процедур исполнительного производства и авторитета судебных документов.

Во-вторых, говорится, что применение блокчейна позволит оптимизировать рабочие процессы и повысить эффективность судебной системы.

В-третьих, высказывается предположение, что подключение к блокчейну откроет возможности для более активного сотрудничества между судебными органами и облегчит такие процессы, как проверка квалификации юристов, сотрудничество между юридическими лицами при рассмотрении дел и межведомственное взаимодействие по вопросам правоприменения.

В-четвертых, высказывается мнение, что использование возможностей блокчейн-альянса с полной интеграцией, связанных со взаимным признанием и с обеспечением достоверности, поможет наладить общее руководство в экономической и социальной сферах. Таким образом, его применение обеспечит эффективную охрану интеллектуальной собственности, улучшит рабочую среду и повысит эффективность разработки и использования данных.

Читать полностью…

LegalTech

📲Что можно и нельзя: WhatsApp во время суда и следствия.

Цифровые технологии в судопроизводстве стали активно использовать в пандемийное время. Причем это касается не только российских судов, но и судов всего мира. Некоторые из правоприменителей пошли дальше: например, в Англии по WhatsApp допрашивают свидетелей. В нашей стране судьи более консервативны, и юристы считают это обоснованным. Электронные приложения можно и нужно использовать во время расследования и судебного разбирательства, но с определенными ограничениями.

В сентябре этого года Апелляционный суд Англии и Уэльса позволил свидетелю по уголовному делу дать показания из-за границы через WhatsApp. Судья Тимоти Холройд посчитал, что мессенджер безопасен, поскольку применяет технологию сквозного шифрования. Использовать приложение разрешили благодаря закону, который приняли во время пандемии коронавируса. При этом Холройд подчеркнул, что делать это можно только по решению судьи в исключительных случаях и интересах правосудия.

В России свидетелей по WhatsApp не допрашивают, но в пандемийное время приложение тоже использовали в судебных процессах. Во время удаленной работы судья Невьянского горсуда Свердловской области Наталья Захватошина рассмотрела дело о нарушении законодательства в сфере санитарно-эпидемиологического благополучия населения с помощью видеозвонка через мессенджер. Правда, такая практика не стала популярной и не закрепилась в законодательстве. Вместо этого в России для рассмотрения дел в режиме онлайн используют видео-конференц-связь.

В России мессенджеры обычно используются не во время суда, а при расследованиях. Переписка в приложении может стать доказательством по уголовному делу (определение КС от 24.06.2021 № 1364-О). Переписка в мессенджерах — ключевое доказательство умысла в 19% уголовных дел. Речь идет о продаже наркотиков, взяточничестве, вымогательстве, В других видах судопроизводства переписку тоже используют и относят к письменным доказательствам (ст. 75 АПК, ст. 71 ГПК, ст. 70 КАС). По сравнению с 2020 годом использование электронной переписки как доказательства в уголовных делах выросло на 20%, а в гражданских делах — на 100%.

Но бывают ситуации, когда мессенджер использовать нельзя. Этой осенью сотрудников МВД наказали за запросы документов с персональными данными через WhatsApp и Telegram. Работники государственных медучреждений Москвы сообщили в прокуратуру, что следователи и дознаватели запрашивают данные о состоянии здоровья подследственных и потерпевших через мессенджеры. Но такие запросы не предусмотрены законодательством. К тому же информация составляет врачебную тайну.

Читать полностью…
Subscribe to a channel