Радио "Стори FM"
Елена Брызгалина: В сетях искусственного интеллекта

Елена Брызгалина: В сетях искусственного интеллекта

Беседовала Юлия Васильева

Чем обернется для человечества бурное развитие искусственного интеллекта? Казалось бы, вопрос глубоко теоретический, но и предельно практический сегодня, когда ИИ с нами повсюду, а нейросети стали серьезным конкурентом человека на рынке труда. И это только начало. Цифровизация общества, цифровой след человека, цифровая пещера и даже цифровой кентавр - лексика нового времени, которая входит в обиход не только философа, но и обывателя.

Об этических аспектах применения искусственного интеллекта мы разговариваем с Еленой Брызгалиной, заведующей кафедрой философии образования философского факультета Московского государственного университета, руководителем магистерской программы «Биоэтика» по направлению «Прикладная этика», ведущим специалистом в области биоэтики в России, исследователем этики искусственного интеллекта.

Елена Владимировна, сможет ли нейросеть, по-вашему, писать как Пушкин, создавать музыку как Шопен, ваять как Роден?

- Неслучайно в вашем вопросе названы конкретные авторы произведений искусства. Дело в том, что ответ на вопрос относительно конкретного артефакта "Искусство ли это?" во многом зависит от авторства, от того, кем себя считает тот, кто творит, какие цели он преследует. Генеративные нейросети могут создавать оригинальные объекты. Сегодня они делают это в сотрудничестве с человеком, поэтому имеет смысл говорить о соавторстве, о работе "цифрового кентавра»=человек+ИИ. Этому "авторскому коллективу" подвластно создание новых форм, новых объектов. Нейросети обучаются на примерах, воспроизводят имеющийся человеческий опыт, перекомбинируют этот опыт, фиксированный в словах и образах. Источником эмоционального переосмысления мира, выявления смыслов является человек. Машины не имеют намерения донести до зрителя, слушателя, читателя смыслы мира, схваченные в произведении, они не переживают эмоции, не осознают сделанное. Эта намеренность есть только у человека-творца. Поэтому системы ИИ - только инструменты.

4.jpeg

Сегодня тема номер один: кто одержит победу на рынке труда, нейросети или человек. Об этом говорят и эксперты, и обыватели. Какие профессии убьет искусственный интеллект?

- Если говорить об отношениях человека и ИИ в терминах «противостояние», «конкуренция», «борьба», то надо рассматривать цели: кому выгодна победа одной или другой стороны? В отношении ныне существующих систем искусственного интеллекта (а это так называемый «слабый ИИ») нельзя говорить о наличии каких-то самостоятельно сформулированных целей и мотивации. У человека есть цели использовать ИИ для улучшения жизни человека и общества. Однако, то, в чем именно состоит улучшение, является предметом интерпретаций. Если говорить о переложении на ИИ рутинных задач (анализ медицинских изображений или оценивание контрольных работ школьников), то выгода в экономии времени и сил врачей при постановке диагноза или учителей при проверке знаний. Весь вопрос в том, куда будут направлены высвободившиеся ресурсы: останется ли востребованным человек, занятый на рынке труда постановкой диагноза или передачей знаний? Найдет ли он возможности и сферы для саморазвития или будет фактически ненужными (или будет чувствовать себя ненужным)? Безусловно, за счет цифровизации рынок профессий изменится. Исчезнут профессии, связанные с деятельностью по повторяющимся алгоритмам, с которыми проще, быстрее, точнее и дешевле справятся технические системы, например, оператор колл-центра, продавец, водитель и так далее. Работники с высокой квалификацией, специалисты в области человеческих взаимодействий и развития когнитивных навыков, профессионалы в области стратегического управления всегда найдут место на рынке. Появятся и новые профессии (например, архитекторы автоматизации, data scientists). От каждого человека по мере развития ИИ требуется готовность к освоению новых сфер, развитие когнитивных и эмоциональных навыков саморазвития. А главное, четкое понимание целей: для чего существует и меняется рынок труда?

А нас, журналистов, интервьюеров, смогут заместить нейросети? Будет ли способен искусственный интеллект отстаивать правду и справедливость, глаголом жечь сердца людей, окрылять или, напротив, обличать?

- По мере развития нейросетей все труднее будет определить происхождение текста. Для читателей, а именно им адресованы тексты, все более важным будет отражение в тексте личной позиции человека - журналиста, интервьюера, эксперта. Поскольку и в вопросах, и в ответах проявляется уникальный личный опыт, система ценностей, авторская интерпретация фактов. Наполненный личностными смыслами контент вызывает доверие не столько в силу его объективности и отстраненности, сколько из-за авторской позиции создателя. ИИ может помочь экспертам и журналистам в генерации сводок, в создании шаблонов в разных стилях, в проверке орфографии и пунктуации, в подборе и даже создании иллюстраций. Журналистика меняется, как и другие профессии, с приходом ИИ. Но смысл коммуникации журналиста с экспертом, и их обоих с аудиторией в донесении через повествование личных оценок, собственных рассуждений и идей, в выявлении мотивов происходящего. Эмоциональная связь аудитории с персонально узнаваемым автором особенно важна для актуальной журналистики, но не для сгенерированного текста на теоретические темы или об историческом прошлом. При использовании созданных машиной текстов предопределенность алгоритмами и предвзятость могут привести к уменьшению аудитории, а значит СМИ не заинтересованы в полном вытеснении ИИ. Система ИИ, в отличие от человека, не может быть привлечена к ответственности за фейки, и это тоже одна из нерешаемых проблем для журналистики.

Какие этические проблемы, связанные с нейросетями, обострятся в первую очередь?

- Проблема достижимости доверенного (прозрачного, этичного) ИИ, то есть работа которого прозрачна и безопасна для человека. Проблема конфиденциальности чувствительных персональных данных. Риски появления новых форм дискриминации и углубления неравенства из-за внедрения ИИ. Трансформация процессов взаимодействия субъектов при появлении «посредника» в виде технологии ИИ, например, в образовании или медицине. Проблема ответственности при нанесении вреда в силу ошибок или некорректной работы ИИ.

И, конечно, актуализируется вопрос личностного выбора каждого из нас во "вновь возникших обстоятельствах"...

- Сегодня наука и технологии развиваются таким образом, что каждый человек оказывается в ситуации личностного выбора: считает ли он оправданным развитие науки в этих направлениях - клонирование, редактирование генома эмбриона, развитие нанотехнологий, развитие искусственного интеллекта, сращивание тела человека с кибернетическими устройствами? Принимает ли конкретный человек эти технологии в свою жизнь или нет. Ведь если люди будут массово не принимать те или иные технологии, они просто не приживутся, такие инновации никому не нужны. Но оценить каждому человеку последствия, положительные либо отрицательные, сложных технологий - непросто. Мы нуждаемся в пояснении, чтобы кто-то показал нам плюсы и минусы, мы понимаем, что и эксперт может быть ангажирован, при этом другого способа разобраться просто нет, потому что любое знание сейчас нагружено этой личностной позицией эксперта, теоретическими и ценностными предпосылками, - и важно, чтобы люди это понимали.

Наше поведение в обществе регулируется правом и моралью. Право всегда будет отставать от темпов развития науки и технологий, а значит регуляция новых объектов и социальных отношений, возникающих в биомедицине («дизайнерские дети», суррогатное материнство, редактирование геномов и многое другое), все больше будет зависеть от этических ориентиров. Великому русскому философу Владимиру Соловьеву принадлежат слова: «Задача права заключается не в том, чтобы на земле воцарился рай, а в том, чтобы мир не превратился в ад». Продолжу эту мысль: задача биоэтики в том, чтобы для каждого человека развитие науки не стало адом мучительного чувства вины, экзистенциальной неопределенности и боли. Биоэтика не обещает рая, но показывает путь к нему. Именно поэтому биоэтику называют профессией будущего, именно поэтому в Московском университете открыта первая в России программа подготовки биоэтиков. Биоэтик призван обеспечить функционирование биоэтики одновременно и как исследовательской междисциплинарной области, и как академической дисциплины, изучаемой студентами медико-биологических направлений подготовки, и как социальной практики принятия решений в сфере исследований живых систем и в здравоохранении.

Получается, технологические решения намного опережают осмысление их последствий?

- Для меня как для философа проблема в том, что не ставится изначально вопрос о глубинной цели. Озвучиваются какие-то прагматические задачи, например, персонализировать образовательный контент - давайте нам искусственный интеллект подскажет: "Ты визуал, тебе картинки, а ты тексты можешь осваивать". Но за этой задачей серьезные социальные последствия - дифференциация, строящаяся по неочевидным основаниям. Есть риск, что тебе как визуалу не предложат прочесть сложный текст типа "Войны и мира"? Здесь кроется очень опасный момент, связанный с дифференциацией общества. Если технологии будут создавать для каждого, условно говоря, отдельный мир, то целостность общества распадется. Это известно еще с античности у того же Платона - так называемая Платоновская пещера, наверняка все знают эту аллегорию: люди, которые видели отражение на стенах пещеры, не могли из нее выйти, думая, что это и есть реальный мир.

На смену географической изоляции (раньше люди знали только тот мир, куда они могли дойти пешком или доехать на карете) приходит "цифровая пещера" - об этом много говорил ушедший, к сожалению, от нас декан философского факультета МГУ Владимир Васильевич Миронов, потрясающий философ и руководитель, который как раз развивал этот образ платоновской пещеры применительно к цифровой культуре.

Как в условиях таргетированной жизни и таргетированного выбора сохранить свободу?

- Наверное, только отслеживая и понимая эти ограничения, сознательно увеличивая сложность своей жизни, несмотря на то, что такой подход к жизни не добавляет легкости бытия. Требуются определенные усилия для того, чтобы выйти за пределы сиюминутного удовольствия, задуматься над глобальными последствиями. Для всех ли это нужно и все ли это могут? - вопрос открытый. Мне чужда позиция разделения общества на интеллектуалов, которые могут и должны это делать, и обычных людей.

Говорить о биоэтике невозможно в отрыве от разговора о глобальных человеческих ценностях.

- Здесь главное, не утратить представление о том, что должно сохраниться только за человеком. Мы вообще не очень понимаем, что делает нас людьми.

Сознание, воля?

- Понятие сознания неоднозначно определяется в психологии, и философы не договорились между собой. Эмоции? Системы искусственного интеллекта уже пытаются смоделировать эмоции. Воля? Не у всех она есть, и что, если у человека нет силы воли, - мы откажем ему в статусе человека? Я всегда отвечаю на вопрос о том, что делает человека человеком, ссылаясь на ценности. Учесть внешние обстоятельства - объем знаний, их полноту, применить к знаниям алгоритмы, - это может сделать сегодня интеллектуальная система, а завтра она будет делать это лучше, чем человек. И вот если нам предстоит жить бок о бок с этими техническими устройствами, я даже не беру сильный искусственный интеллект, который якобы когда-нибудь сможет полностью осуществить моделирование человека, а имею в виду рядовые системы искусственного интеллекта, - то уже сейчас возникает вопрос, почему в паре "мы плюс искусственный интеллект" мы - неустранимы, и "мы плюс искусственный интеллект" - это лучше, чем "мы отдельно» и «искусственный интеллект отдельно"?

Разность ценностей сейчас становится яблоком раздора. Как в условиях стремительно меняющегося хрупкого мира сохранить и отстоять свои ценности?

- Мы не всегда отдаем себе отчет в том, что в слово "ценности" мы вкладываем очень глубокое значение. Часто можно услышать: "Для меня чашка утреннего свежесваренного кофе - это ценность", - и возникает ломание копий, с чего надо начинать утро, с чая, воды с лимоном, с чашечки эспрессо. Это вообще надуманная проблема: когда мы говорим о ценности напитка, то для нас это объект, связанный с удовлетворением потребностей. Объект ценностью быть не может, потому что у него есть цена. Очень простой критерий - ценность - это то, у чего нет цены, что нельзя определить бухгалтерскими терминами, нельзя купить - доброту, счастье, чувство сопричастности большой и малой родине, справедливость. Ценность - это то, чем мы руководствуемся, когда определяем цели жизни. Самая глубокая трактовка ценностей связана с тем, что нельзя дальше ставить вопрос "зачем". Давайте проиграем ситуацию. Юля, зачем вам этот разговор?

Чтобы получить ответы на важные для меня вопросы и поделиться ими с людьми.

- А зачем вам это?

Чтобы помочь людям найти точки опоры, какие ищу и я.

- Ну а это вам зачем? Чтобы сделать мир лучше?..

Есть вещи в отношении которых выяснять «зачем они?», бессмысленно. Ценность справедливости, правды... Ценности - это то, что связано с предельно глубокими смыслами нашей жизни, которые не поддаются гносеологической верификации. Есть очень простой критерий: когда вы отстаиваете убеждения, вы всегда в напряжении, возникает агрессия и злоба, кулаки сжимаются. А когда ты поступаешь согласно внутренним ценностям, ты расслаблен, ты уверен, ты не нуждаешься в том, чтобы кому-то доказывать важность твоих ценностей, ты либо в кругу своих людей, либо понимаешь, что это не твой человек, не твоя среда, не твои ценности. Так бывает.

Чем чревато пребывать в среде, где грубо попирают твои ценности?

- Это чревато внутренним ценностным конфликтом, ты можешь внешне его не проявлять, но, когда действия окружающих людей попирают твои ценности, у тебя возникает очень мощный внутренний протест.

Даже если это не твои персональные, а ценности твоего народа, государства?

- А они становятся твоими. Что такое патриотизм? Мы все нуждаемся в том, чтобы чувствовать свою сопричастность. Люди - существа социальные. Малыш, когда растет, определяет "свой-чужой" по границе семьи. Потом ребенок начинает осознавать, что "свой-чужой" - это мой народ, моя конфессия, моя культурная целостность. И нельзя ломать эту естественную последовательность идентичности, потому что самая высокая идентичность - это ощущение того, что я гражданин страны. Чувство "я - гражданин мира" нельзя формировать до того, как сформируется чувство причастности своей малой родине, своему государству. Поэтому, когда оскорбляют страну, ты чувствуешь себя лично оскорбленным, ты часть этой страны.

IMG_6348.JPG

Как экономика будет влиять на взаимоотношения человека и ИИ, когда, скажем, отдать те или иные задачи на откуп искусственному интеллекту для бизнеса будет более выгодно, чем содержать штат работников?

- К сожалению, многое в мире измеряется финансовыми показателями. Значит на языке финансов мы должны обосновать, почему, например, держать врача, который ставит диагноз, в штате больницы нужно несмотря на то, что искусственный интеллект ставит сегодня по изображениям диагноз с приближением 92-96 процентов к мнению самого квалифицированного врача. Как руководителю больницы объяснить, что есть 4-6 процентов случаев, когда поставить диагноз способен только врач с его опытом? И как этого врача вообще обучать? Представьте, мы ведь тяготеем к тому, чтобы облегчить себе жизнь, и как врачу, который видит, что в ряде случаев искусственный интеллект верно поставил диагноз, распознать ситуацию, когда надо включиться? как врачу поддерживать свою квалификацию? и как обучать искусственный интеллект? На выборке подтвержденных диагнозов по изображению. Если когда-то это сделал квалифицированный врач, а потом это начал делать искусственный интеллект, как нам сохранить врача, который сможет обучить следующие поколения нейросетей?

Обладает ли, по-вашему, прогресс безусловной ценностью?

- Как глубоко в нас сидит эта идея прогресса: завтра должно быть лучше, чем сегодня! Для меня радикальное преобразование и природы, и человека, это такое направление развития, которое, мягко скажем, неоднозначно, рискогенно.

С чего мы взяли, что должны взламывать человеческую природу, преодолевать все болезни, отказываться от идеи нашей смертности, переносить сознание на небиологические носители типа искусственного интеллекта? Получается, что мы пошли по пути отрицания себя. Мы целостны. Нашу биологию нельзя изъять, со всей нашей эмоциональностью, ограниченной трудоспособностью, физическими несовершенствами. Если у нас это отнять, совершенно непонятно, кто мы будем такие и как будет развиваться цивилизация, потому что все наши ключевые правила, даже этикетные правила, это же от биологии. Нужно понимать, что наш мозг - пещерный, и возник в то время, когда объем информации и вообще пространство, доступное для человека, были ограничены. Мы создаем себе "костыли" в виде искусственного интеллекта, цифровых устройств, но мы не должны относиться к "костылям" иначе, чем к инструменту.

В одной из лабораторий МГУ разрабатывается идея установления связи между искусственным и человеческим интеллектом, благодаря чему люди смогут оперировать в тысячи раз большими объемами информации, при этом, якобы, не нарушая естественные, обусловленные природой проявления эмоций, чувств и сознания. Может быть, в этом наиболее эффективный и этичный путь корреляции ИИ и человека?

- Лучший путь взаимодействия, по моему мнению, в установлении правовых и этических регулятивов применения ИИ без взламывания природы человека, в жесткой фиксации за ИИ статуса инструмента, в прекращении разговоров о перспективах субъектности/агентности ИИ, то есть о предоставлении ИИ равных прав с человеком. Взаимодействие естественного и искусственного может ориентироваться на прикладную пользу инструментов (поддержка рутинных решений, прикладные задачи), но не на потерю человеческой автономии в интеллектуальной сфере.

фото: Анна Корсакова

Другие герои

  • Рыцарь без страха
    Рыцарь без страха
    Каждое время сторожит свой Рыцарь без страха и упрёка. «Я себя под Лениным чищу!» – это Маяковский. А мы – при ком выросли, чьих идеалов придерживаемся? Из всех промелькнувших при нашей жизни «портретов» в душе остался, пожалуй, лишь Дмитрий Лихачёв
  • Князь в посконной рубахе
    Князь в посконной рубахе
    Гумилев много писал о пассионарности, о "золотой осени этноса". Он считал, что такой век у России еще впереди
  • Кирилл Крок: Вахтангов. Путь домой
    Кирилл Крок: Вахтангов. Путь домой
    Дом Вахтангова во Владикавказе, грандиозное открытие которого запланировано на 30 апреля, обещает стать одним из главных социокультурных проектов года в России

Похожие публикации

  • Тереза Дурова: «Половина семейных историй — уже легенды»
    Тереза Дурова: «Половина семейных историй — уже легенды»
    Театр Терезы Дуровой давно не путают с Уголком дедушки Дурова, хотя было время, когда руководители двух этих коллективов договаривались между собой, что будут пускать пришедших не по тому адресу зрителей. Но теперь все знают, первый — это театр людей, а второй — зверей, пусть и возглавляют их наследники одной фамилии.
  • Пьяццолла: С музыкой не разводятся
    Пьяццолла: С музыкой не разводятся
    Как-то великий гитарист Карлос Сантана сказал: «Музыка – это баланс мужского начала и женского. Женщина – это мелодия, мужчина – это ритм. Моя задача отправить их в постель, где всё, чем они станут заниматься, будет естественным и нормальным»
  • Анатолий Равикович: Продолжение следует
    Анатолий Равикович: Продолжение следует
    24 декабря родился Анатолий Равикович, которому в этом году исполнилось бы 85 лет. Звезда театра, искрометный талант, он не исчерпывался ролью Хоботова, в которой запомнился широкому зрителю. Его вдова, актриса Ирина Мазуркевич согласилась побеседовать с нами