Нейросети теряют приватность

ru Юрий Синодов. — С компанией OpenAI, которой принадлежит ChatGPT, сейчас ведутся юридические споры. К компании были направлены иски из-за того, что сервис дает не очень адекватные советы людям, находящимся в плохом психологическом состоянии. Доходило чуть ли не до суицидов, поэтому OpenAI пытается переложить ответственность на пользователей, которые задают свои вопросы не подходящему инструменту, а для этого нужно, чтобы пользователь был дееспособен — соответственно, они пытаются выяснять его возраст. Практически любой генеративный собеседник, построенный на системах машинного обучения и созданный компанией, находящейся в юрисдикции США и Европы, теперь будет вынужден действовать точно так же — как минимум для того, чтобы уменьшить вероятность возникновения таких претензий. Коснется ли это российских сервисов, сказать сложно. У нас я про такие случаи не слышал. Кроме того, в России по-другому устроено законодательство. У нас проверка возраста на многих сайтах вообще отсутствует, и пользоваться соцсетями могут те, кому меньше 13 лет, если у этого пользователя есть сим-карта, на которую он получил уведомление. При этом, если говорить про соцсети, то в Австралии буквально на днях очень стремительно запретили пользоваться соцсетями подросткам до 16 лет. Мы в этом смысле пока еще «отстаем». Вероятность того, что у нас тоже будут как-то контролировать возраст пользователей соцсетей, есть, но мы, скорее всего, отстаем года на два. Если говорить о рисках для приватности пользователей нейросетей при отправке документов, подтверждающих возраст, то такие риски, конечно, есть, и они точно такие же, как и при пользовании любым другим интернет-сервисом. Во-первых, компании пытаются зарабатывать и иметь некие рекламные возможности в обмен на то, что они узнают что-то о пользователе — это более менее легальная и всем понятная история, правила которой люди сами принимают. Другая проблема заключается в том, что многие системы рано или поздно сталкиваются с несанкционированным доступом и могут контролироваться злоумышленниками. Допустим, злоумышленник может вычислить какие-нибудь адреса провайдера, который оказывает услуги внутри Кремля. В этом случае сразу же будет сделана выборка этих пользователей, и будет собираться информация о том, чем они пользуются, а дальше одному богу известно, как эта информация может быть применена. Юрий Синодов, создатель сайта roem. ru.