Отклик на статью «Поучительная история» П.В.Тихомирова
Павел Вячеславович Тихомиров Электронный концлагерь  Русская цивилизация 
Фото: из личного архива автора
Одной из характерных примет настоящего времени, бесспорно, является бурное развитие искусственного интеллекта. Возможности ИИ поразительны. Даже скептики, изначально занявшие однозначно осудительную позицию по отношению к этому явлению, начинают нехотя признавать, что ИИ несёт не одно лишь зло, но и польза от него бывает (хотя зло в нём всё же преобладает).
Статья П.В.Тихомирова «Поучительная история» — подобного рода озарение: ИИ не только зло. В целом заметка убедительна, рассказанная в ней история действительно поучительна. Однако в публикации имеется довод, подрывающий благостный настрой к искусственному интеллекту.
Два года назад, я, не являясь принципиальным противником ИИ, решил воспользоваться его возможностями. С помощью этого изобретения я написал поздравление с 65-летием моего коллеги. Текст поразил меня своей органичностью и естественностью, в нём не было и следов топорности, свойственной репликам A.L.I.C.E. нулевых. Поздравление оказалось столь совершенным, что у меня не возникло даже желания подвергнуть его правке.
Павел Тихомиров приводит примечательный отклик писателя Ивана Кожемяко. По мнению писателя, приведённый Павлом Вячеславовичем пример «показывает и обратную сторону. После поправки ИИ способен не только принять верное направление, но и очень убедительно развить предложенную ему мысль – иногда даже убедительнее, чем позволяют источники. Поэтому человек всё равно должен оставаться тем, кто думает, проверяет, спорит и отличает красивую аргументацию от доказанной».
«Наверное, поэтому мне ближе отношение к ИИ не как к заменителю собственного мышления, а как к инструменту и собеседнику в работе. Чем грамотнее человек умеет с ним взаимодействовать, тем интереснее получается результат.
Так что Ваш опыт, по-моему, действительно получился хорошим аргументом именно "в защиту ИИ". Но одновременно – и в защиту человека, который должен находиться по эту сторону диалога», — считает И.Кожемяко.
Писатель выявил функциональную сущность искусственного интеллекта: ИИ есть классическое обоюдоострое орудие. Искусственный интеллект помогает совершать мошеннические преступления, воровать чужие тексты и производить иные незаконные действия и прочие непристойности.
ИИ облегчает поиск информации, однако ввиду того, что он работает по принципу «каков вопрос, таков ответ», качество поиска во многом зависит от вводной информации. Адвокаты всё чаще сталкиваются с этой особенностью искусственного интеллекта. Их нынешние доверители уже не Tabula rasa: теперь они обогащены или, вернее будет сказано, отягощены сведениями, полученными ими с помощью ИИ. Сложно подобрать слова, чтобы описать ту причудливую смесь юридических и псевдоюридических сведений, которая обнаруживается в их головах. При этом достоверность и правильность информации, сообщённой ИИ, не подвергается ими сомнению. Нередко адвокат, давая юридическую консультацию, вынужден преодолевать сопротивление, порой сильное и страстное, со стороны доверителя, подвергающего сомнению каждое слово и каждый совет адвоката …со ссылкой на результаты собственных изысканий посредством ИИ либо на советы анонимных юристов.
В этом таится страшная опасность, скрытая от невнимательного наблюдателя. ИИ вселяет в своих пользователей убеждённость в их собственной компетентности. Слишком многие люди (свидетелем чего я был неоднократно), получив с помощью ИИ пару-тройку ответов на правовые вопросы, начинают ощущать себя «настоящими» юристами. И неважно, что у них не имеется высшего юридического образования, соответствующего профессионального опыта и необходимых в этой профессии навыков и умений, зато прививается уверенность в том, что они стали едва ли не экспертами в области права. ИИ не только сообщает сведения, он также взгревает в человеке самомнение и гордыню. ИИ ослепляет, чем пользуются мошенники. В этом отношении взаимодействие с искусственным интеллектом и мошенниками может приводить к схожему эффекту — ИИ и мошенники умеют, ловко и незаметно, невежду убедить в том, что он энциклопедист, неудачника в том, что он финансовый гений, человека, ещё вчера не обладавшего элементарными правовыми познаниями, в том, что он глубочайший и величайший правовед. Самомнение, воспитанное ИИ и мошенниками, таит угрозу, приводящую к тому, что новоявленный «энциклопедист» оказывается в дураках, «финансовый гений» теряет те крохи, которые нажил большим трудом, «глубочайший и величайший правовед» вовлекается в сделки, ввергающие его в долги, банкротство и нищету.
Последствия такого самомнения в области духа могут быть катастрофическими. Павел Вячеславович восторгается тем, что ИИ мыслит по-православному. Но ведь он получил такой ответ от искусственного интеллекта только потому, что задал правильные вопросы и ориентиры, а также потому, что, обладая обширными познаниями и солидным религиозным опытом, умеет «различать духов» и отличать истину от ереси. Но человек, не имеющий ни подобных знаний, ни опыта Богообщения, может получить от ИИ иной ответ, который не будет православным и душеспасительным. Искусственный интеллект, способный вселять в людях самомнение, неизбежно породит протестантскую вольницу. Мир заполонится «богословами», ставшими таковыми по велению ИИ. Мысль многих и многих будет формироваться не Священным Преданием, а искусственным интеллектом. А ведь нередко бывает, как замечено в русском народе, заставь дурака Богу молиться, он и лоб расшибёт.
ИИ — сложнейший и тончайший инструмент, который приносит пользу лишь в умелых руках. Очень опасно давать мартышке гранату, а океанский лайнер доверять дилетанту. В руках П.В.Тихомирова искусственный интеллект способен творить чудеса, но, оказавшись в неумелых руках, он может стать разрушительным оружием. Помнится, радость учёных от того, что они научились высвобождать атомную (ядерную) энергию, оказалась недолговечной. Политиканы смогли извратить величайшее научное открытие: сотни тысяч японцев были превращены в пепел. Но атомная бомба уничтожает тело, а ИИ может уничтожить душу… Именно от такой беды пытаются защитить человечество наиболее трезвомыслящие противники искусственного интеллекта.
P.S. Выраженная в настоящей статье позиция является моим личным мнением.
Александр Валентинович Тимофеев, адвокат
Источник: ruskline.ru
