«Сейчас происходят сразу две революции: ИИ-революция и революция прозрачности. Почему граждане не знают, куда идет каждая копейка государственных денег? ИИ может обработать все контракты и точно выяснить, что случилось и что происходит сейчас», — говорит руководитель ИИ-корпорации Palantir Алекс Карп, комментируя работу Департамента государственной эффективности.
Революция прозрачности витает в воздухе с начала 21 века. Сначала интернет соединил людей и сделал всю информацию мира доступной. Затем соцсети и смартфоны сделали прозрачными жизни людей и позволили нам узнать, что думают и как живут другие. Теперь ИИ может помочь нам переварить и осмыслить всю эту информацию о мире и людях в нем — но хотим ли мы этого?
Прозрачность общества сводится к прозрачности трех его частей: граждан, бизнеса и власти. В авторитарных режимах вроде Китая с его системой социального рейтинга все просто: народ и бизнес должны быть абсолютно прозрачными для власти, однако сама власть остается непрозрачной для людей и капитала — она управляет, а не отчитывается.
Демократии считают, что граждане должны быть прозрачными настолько, насколько они сами решат — поэтому на Западе, особенно в ЕС, много внимания уделяют приватности. На деле граждане демократий вполне прозрачны для технокорпораций и спецслужб, которых от злоупотребления этой прозрачностью сдерживают культурные нормы приватности.
Бизнес в демократиях вынужден быть прозрачным и перед клиентами, и перед государством. Хотя взятки, лоббирование и шантаж власти часто позволяют крупному капиталу оставаться непрозрачным для закона, интернет и соцсети в целом сделали бизнес более прозрачным для общественного мнения и потому более ответственным и конкурентоспособным.
Самая парадоксальная ситуация с прозрачностью демократий складывается в сфере правительства. Хотя, по идее, демократическая власть должна быть максимально прозрачной и подотчетной гражданам, на деле она ведет себя, скорее, как сами граждане, которые имеют право быть настолько прозрачными, насколько захотят.
Если в автократиях непрозрачность власти чаще всего объясняется вопросами безопасности, то в демократиях кроме этого есть и более изощренные способы скрыть правду. Один из таких способов я называю «туманом компетентности», которым правительства покрывают свои спорные дела, ограждая себя от ответственности перед избирателями.
Суть «тумана компетентности» в том, что чиновники якобы лучше граждан понимают, как все устроено, и потому не обязаны убеждать людей в том, что их решения и действия действительно лучшие. В этой логике люди не обладают компетенцией, необходимой для понимания чиновников. А компетентность чиновников в этой логике подтверждается самим фактом того, что они — чиновники.
ИИ способен рассеять туман компетентности, потому что он становится третьим участником в отношениях власти и народа, размывая монополию власти на компетенцию. ИИ может прояснить, что именно в прошлом сделали чиновники и к чему это привело, и, главное, показать, что власть делает сейчас и к чему это приведет.
Демократия давно нуждается в кардинальном обновлении, и в последние годы это очевидно, как никогда. Революция прозрачности может кардинально обновить западный мир, вернув легитимность власти и государственным институциям за счет того, что ИИ сделает их более понятными и подотчетными людям. Без такой революции угроза всем миром скатиться в ИИ-авторитаризм слишком велика.