The Technodeterminist Papers

Дэвид Чалмерс выпустил новую книгу "Reality+: Virtual Worlds and the Problems of Philosophy": философы шагают в ногу с рынком, так что она посвящена виртуальной реальности. Главный тезис Чалмерса, известного философа сознания, состоит в том, что жизнь в виртуальной реальности может быть столько же осмысленной, счастливой и полной человеческими переживаниями, как и в нашем обычном мире. В сущности, любая подобная аргументация внутри аналитической традиции строится через опровержение мысленного эксперимента Нозика о "машине опыта": Нозик предполагал, что никто добровольно не откажется от своей настоящей жизни во имя машины, способной генерировать любые ощущения. Примечательно, что Чалмерс не первый автор, защишающий подобную позицию: в исходе в виртуальную реальность, фактически в набор бесконечно разнообразных видеоигр, видит будущее человечества молодой ирландский философ Джон Данахер, чей текст "Automation and Utopia" я подробно разбирал для Logos Review of Books.

Читая Чалмерса, российский читатель может увидеть экзистенциальный разрыв, разделяющий его и автора. Мечта о виртуальной утопии может возникнуть в очень благополучном обществе, которое с одной стороны вынуждено придумывать для себя новые цели развития (что-то вроде киберкоммунизма), а с другой мучительно пытается избавиться от переживания скуки и бессмысленности хорошо благоустроенного существования.

Тезисы Чалмерса в России упираются в вопрос о том, какие институты мы оставим "на реальной земле", прежде чем подключиться в передовому, приятному и полному смысла VR. Условно говоря, не отрежет ли тебе Рамзан Кадыров голову, пока ты будешь подключен к системе. Виртуальная реальность, помноженная на клептократию, дает бесконечные перспективы для укрепления авторитаризма. Самая продвинутая часть общества, воспользовавшись советами Чалмерса, просто уйдет в виртуальную эмиграцию, оставив Москву государственным бандитам и мигрантам, причем первые установят для вторых Синьцзян-2.

В какой-то момент я именно по этим довольно наивным причинам разошелся с постструктурализмом: я понял, что прочитав Делеза, можно обосновать и дать интерпретацию любому явлению так, чтобы в него не хотелось уже вмешиваться. Именно по этой причине я мигрировал в политическую философию, ставящую под сомнение существующий порядок, и предлагающий нормативные принципы для его изменения. Знаменитый тезис Маркса о задачах философии, по-моему, является единственной серьезной апологией наших интеллектуальных практик.

Данахеру я написал в Твиттере, что мне понравилась его книга, но я считаю, что он ошибся в ключевом тезисе: любое умножение реальностей спровоцирует политическую борьбу за возвращение к "настоящему", эта "жажда реальности" отчетливо прослеживается от мифа о пещере к "Матрице" и современному интересу к расследовательской журналистике.

Люди нативные эпистемологи, которые регулярно хотят знать, как оно все устроено на самом деле. Но когда Запад отправится на поиски виртуального счастья, а на остальных территориях планеты будет установлен режим цифрового ГУЛАГа, нас ждут самые интересные и философские времена.

камерами слежения превращаются в нечто среднее между пресловутой big village и концентрационным лагерем. В этом обществе нет места свободе выбора и человеческой индивидуальности - на социальных мифах о которых держался модерн. Каждый из нас лишь незначительная погрешность big data, собранной о поведении и потребления людей в цифрово-надзорном обществе. У данных есть предсказательная сила: собирая и анализируя всю информацию о человеческой жизни, можно создавать эффективные сценарии влияния на желательное потребительское (или политическое) поведение.

Центральный тезис Зубофф: новым фронтиром капитализма оказалась цифровизация всех элементов человеческого опыта. Государства, такие как Китай и Россия, научились использовать те же технологии для укрепления диктатуры.

Никто не ждал от Google такого, но также никто не знает, что делать с этими экстерналиями дигитализации. Рецепт Зубофф - укрепление демократических институтов и ограничение влияния цифровых платформ на человеческий опыт. Некоторые общества не смогут в обозримом будущем воспользоваться этим рецептом. Еще есть всепобеждающая логика шифропанков - людей в цифровых шапочках из фольги, чья паранойя по поводу судьбы данных оправдалась с избытком. "1984" года не будет только лишь потому, что Оруэлл не мог представить себе такую глубокую трансформацию общества модерна, как нынешняя. Он создавал плохую версию индустриального массового мира, но не нынешний утонченный надзорный капитализм.

В России "Эпоху надзорного капитализма" представляет издательство института Гайдара, которое возглавляется Валерием Анашвили.

На русском языке вышла главная книга начала новых ревущих двадцатых, в ходе которых технологическая и социальная трансформация мира наложилась на строительство новой разделенной Европы и символическое восстановление Берлинской стены.
Шошанна Зубофф, исследователь социологии труда в Гарварде еще в 80-е написала классический текст о современной организации менеджмента, а полтора года назад неожиданно представила "Эпоху надзорного капитализма", в которой дана крайне критическая оценка цифровизации.
Текст примыкает к фукольдианской традиции исследований власти, знания и надзора и посвящен, главным образом, экстерналиям цифрового капитализма: там, где Google и Facebook хотели всего лишь зарабатывать на персонализированной рекламе, предоставляя пользователям бесплатные сервисы, возникает образ нового общества.
В этом обществе, например, больше нет разницы между публичным и приватным, слово privacy всерьез употребляется лишь в речах маркетологов. В нем нет анонимных городов социолога Зиммеля: мегаполисы с камерами с

Однажды я позвал физика на дискуссию про искусственный интеллект, а он сказал, что не придет. - Вы, философы, - сказал физик, - когда собираетесь, всякий раз начинаете обсуждать свою дилемму вагонетки, а нам, ученым, и слова не даете вставить.

Физик прав. Искусственные агенты, действующие в реальном мире, хотя бы автомобили-беспилотники, проблематизируют этику на новом уровне. Раньше у нас были моральные интуиции, которыми мы были довольны, и скучные теории, которые обсуждают специалисты. Теперь нам нужно поделиться моралью с роботами - так, чтобы их действия выглядели бы в человеческом обществе пристойно. "Три закона робототехники" Азимова из конца 1940-х не пройдут. Роботы не смогут полностью отказаться от причинения вреда людям. Этому посвящен уже старый проект MIT Moral Machine, версия дилеммы вагонетки, в котором людям надо подсказать беспилотнику, кого он должен спасать, а кем жертвовать. Лет десять уже в MIT учат машины убивать людей (и животных) и делать это этично.

Moral Machine уже на уровне своего названия несколько лет назад спровоцировала меня на идею "обратного инжиниринга морали". Если мы научим роботов действовать так, чтобы люди считали их выбор этически оправданным, то почему мы не можем использовать тех же роботов для определения этических качеств наших собственных действий? Если ваш автомобиль обладает достаточно совершенной системой этических взглядов, то нельзя ли не просто делегировать ему моральный выбор в экстренной ситуации на дороге, но и, например, посоветоваться по дороге о своих отношениях с тещей?

Короче говоря, если мы, в частности, исходим из идеи, что этика конвенциональна, и правильный моральный выбор тот, который считает таковым большая часть людей в данном обществе, то Moral Machine перестает быть метафорой, и мы действительно можем сконструировать "универсальную этическую машину", нейромудреца, к которому можно обращаться за советами по этике, и эти советы будут как минимум не хуже, чем у людей.

Как и в случае любви ("алгоритмы Tinder диктуют нам, с кем мы должны спать"), идея делегирования представлений о добре и зле машине встречает интуитивное отторжение.

А между тем первый прототип Real Moral Machine уже создан. Проект Delphi от Алленовского института искусственного интеллекта предлагает вам предложить нейросети описание некоторого действия, и, опираясь на статистически значимое мнение людей, Delphi сообщит вам, хорошее ли это действие, дурное или нейтральное.

Так, по мнению Delphi, врать умирающему, что он в порядке - плохо, дать в морду нацисту - нормально, вернуть долг - само собой разумеющееся, а вот шитпостить в твиттере - тоже плохо.

Что дальше, как вы думаете? Я считаю, что в какой-то итерации подобных проектов должен появиться культ св. Машины, на непогрешимость которой одни люди начнут молиться, а другие будут их бить за это палками. Это очень соответствует природе нашего вида.

https://delphi.allenai.org/

Мой текст из Logos Review of Books вышел на "Горьком". Обратите внимания на фигуру Джона Данахера, лучшего из молодых аналитических философов, пишущих о технологиях сейчас, автора замечательного подкаста Algocracy and Posthumanism Project https://gorky.media/fragments/zhdet-li-nas-vosstanie-na-puti-v-virtualnuyu-utopiyu/

Большой обзор всех способов и идеологий цифровой слежки за "ковидными", которые изобрели к этому моменту. От щадящего блокчейна до "цифровых профилей здоровья" в Китае. Россия склоняется ко второму сценарию https://novayagazeta.ru/articles/2020/05/31/85627-novyy-kitayskiy-chelovek-v-kazhdyy-dom

Фильм Дудя о русских героях Кремниевой долины больше всего напоминает "Сердца четырех" - водевиль о романтичных красноармейцах, съемки которого были закончены в июне 1941 года, накануне. Существуют прощальные жесты прежней эпохи, и поездка Дудя в Google-коммунизм, состоявшаяся перед тем, как на мир опустился занавес, тут один из ярчайших примеров.

"Сердца четырех" легли на полку: не время было представлять красных командиров, перебитых летом и осенью того же года, в качестве влюбленных, поющих песни. Фильм Дудя люди посмотрели, сидя дома: вместо манифеста открытого мира, полного возможностей,он стал зеркалом для закрытых границ, глобального режима ЧС и контроля за гражданами при помощи цифровой слежки.

Я видел несколько вполне осмысленных линий критики этого фильма. Одни справедливо отмечали, что история успеха - это всегда ошибка выжившего,и что правдивый фильм о культуре стартапов включал бы в себя анализ тысяч разбитых жизней и несбывшихся надежд. Другие критиковали Дудя за демонстрацию под видом эгалитарной мечты патриархальной пародии, реальности,где успеха добиваются исключительно сильные мужчины, как если бы это была Калифорния 19, а не 21 века: женщин в нем не существует.

Но мне кажется, ключевая драма тут именно в прощании с миром,где технологии безусловно делали нашу жизнь лучше,и где улыбчивые инженеры зарабатывали миллионы, предлагая планете все более и более удобные сервисы. В этом мире не было гибридных войн,троллей,тоталитарных государств, поставивших цифровые технологии себе на службу,и повсеместной слежки. Вот улыбчивый инженер рассказывает о том, как распознавание лиц в камерах слежения сделает наши города безопаснее, а ритейл дружелюбнее и прибыльнее, а за его спиной стоит Сергей Семенович в респираторе.

Так звучит последняя песня хиппи из Калифорнии, которые придумали нам новый рай, шеринговую экономику, в которой все братишки, коммунизм знаний. Они сделали очень много полезного,мы пользуемся плодами их трудов,более того,эти плоды единственное,что теперь осталось от старого мира - интерфейсы и гаджеты заменили собой устаревшие и опасные практики прошлого.

"Луковица памяти" Гюнтера Грасса начинается с рассказа о том, как немецким мальчиком он жил в предвоенном Данциге - и как через какие-нибудь несколько лет от этой жизни не осталось никаких следов:ни улиц,ни домов,ни людей, ни даже сколько-нибудь открыто высказанных слов.

А я, пожалуй, пойду почитаю "Всемирный потоп" - текст Адама Туза о том, как Первая мировая война, вирус испанки, распад трех империй и восхождение США стерли с лица земли мир, в котором человечество прожило добрую сотню лет.

Две мировые войны, как известно, полностью изменили трудовые отношения в индустриальном мире. Пока мужчины вооружились патриотическими лозунгами и пулеметами и отправились убивать друг друга, миллионы женщин вышли на работу на фабриках и в конторах. После того, как мужчины вернулись, женщины уже не очень хотели расставаться с экономической независимостью, что после Первой мировой привело к признанию их политических прав (тот факт, что до этого момента демократии признавали женщин частично недееспособными - одна из наиболее позорных страниц западной цивилизации наряду с торговлей рабами). После Второй мировой и изобретения оральных контрацептивов случилась сексуальная революция, когда работающим женщинам стало уже довольно трудно указывать, с кем им заниматься сексом.

Урок тут понятный: масштабные трагические события расчищают место для новых форм социальной жизни, которые иначе встречают консервативное сопротивление. Аналогично есть исследования, которые указывают, что условия для промышленного рывка Европы в Новое время были созданы эпидемиями чумы и депопуляцией XIV века: цена труда резко возросла, что стало толчком для инноваций. Где-то рядом лежит и объяснение первой глобализации и раннего колониализма: европейцы к XVI веку не были ни самыми богатыми, ни самыми развитыми жителями планеты, но отчаянно боролись за доступ к восточным рынкам, в первую очередь южноазиатским рынкам, как сейчас мировая индустрия борется за американский рынок. Это толкало их на разного рода безумства вроде путешествия Колумба.

В феврале промелькнуло сообщение от одного из экспертов ВОЗ: пандемия коронавируса неизбежна, остановить распространение инфекции не получилось, и каждый установленный пациент передает болезнь в среднем 2-3 людям. Это значит, переболеют 2/3 населения Земли, а потом коронавирус станет обычным явлением нашей жизни вроде гриппа и станет возвращаться снова. Летальность коронавируса довольно низкая, погибают в основном те, чья иммунная система не справляется, но мир несет огромные экономические потери.

Кто-то, безусловно, на коронавирусе заработает, и это не только производители медицинских масок, но и, например, провайдеры домашних развлечений, от Netflix до Steam. Возможно, именно эти события наконец дадут толчок для роста интереса к коммерческому VR, который потенциально сможет стать новой платформой для человеческой социальности.

В ближайшие месяцы мы можем увидеть западный мир, жители которого не выходят без специальной надобности из дома. Это будет новый опыт городской культуры Запада, когда интенсивные социальные контакты сохраняются, но проходят без личных встреч. Благо, всю необходимую телеком-инфраструктуру мы для этого отстроили: в каждом доме в крупных городах есть высокоскоростное интернет-соединение. Например, работать из дома станет совершенно обыденной и массовой практикой. Часто сейчас в конечном счете люди едут на работу просто для того, чтобы настроиться на офисный лад и не прокрастинировать. Никакой функциональной необходимости нет.

Если подобный сценарий реализуется, коронавирус похоронит индустриальный мир, каким мы его знали. Большая часть массовых ежедневных собраний граждан станет ненужной архаикой. Мы долго смеялись над хикикомори, но возможно они были проводниками будущего.

Ближайшая технология, связанная с искусственным интеллектом, которая сильно изменит наш взгляд на мир (в прямом смысле слова), это так называемая вычислительная фотография.

До сих пор мы продолжаем жить в аналоговом мире, где для того, чтобы запечатлеть бесценный момент жизни, как то ваши ноги на пляже, вашу свадьбу, блюдо, которое вы ели на завтрак, вам нужно навести объектив камеры на объект съемки, найти правильный ракурс, добиться нужного освещения, обеспечить приемлемое время выдержки и прочее.

Сейчас все это делается чаще всего одним нажатием кнопки в смартфоне, но сути не меняет. Действовать приходится дедовскими методами, как работали с изображениями в начале XX века. Существует романтическая профессия фотографа, человека, который умеет видеть вещи.

Вычислительная фотография работает иначе. Вы задаете некоторое направление съемки, нейросеть вашего компьютера (смартфона, отсылающего данные для облачных вычислений) получает необходимые входные данные, а затем самостоятельно вычисляет то, что вы на самом деле хотели снять. Достраивает снимок до нужной четкости, освещенности и так далее. С учетом того, какой прогресс достигнут в последние несколько лет в искусственном построении фотореалистичных изображений (см. thispersondoesnotexist.com и аналогичные проекты), разница между снятым на самом деле и полученным чисто вычислительным способом будет постепенно стираться.

Основными компаниями в фотобизнесе станут Alphabet, Nvidia и Apple, те, у кого есть достаточное количество данных и технологий для их обработки.

Среднестатистический человек сможет получать снимки профессионального качества в любом возможном стиле, включая снимки вещей, существовавших в прошлом, или не существовавших никогда - так что если вы спешили сделать селфи с селебритиз, не расстраивайтесь, у вас еще все впереди.

Заодно из фотографии исчезнет вся поэтика, прочерченная в традиции, воспевающей фотографию как аутентичное изображение человеческого опыта, от Картье-Брессона до Барта и Зонтаг. Если вы потеряете любимое семейное фото, которые храните в кошельке, машина сделает вам такое же, но только лучше.

Фотография перестанет быть символом времени и человеческой судьбы, она станет одной из машин построения иллюзии, как уже сегодня наши аккаунты в Инстаграм.

По настоящим, "реальным фотографиям" принято будет тосковать также, как сегодня люди ищут аутентичного звука в пластинках, или аутентичного опыта путешествий вдали от туристических маршрутов.

От технической воспроизводимости искусства мы двинемся к миру бесконечного улучшения воспоминаний. И как же нам будет не хватать индустриального существования, старого доброго XX века.

Wired публикует отчаянное эссе о потерянном детстве. Два ребенка решили отправить послание самим себе в будущее, взяв за интервал немыслимое число времени - 10 лет. Им в этот момент было по 8, так что послание было адресовано своим невообразимо взрослым, совершеннолетним версиям.

Один из двух приятелей, автор эссе и тот, кому суждено быть писателем, предлагает отправить в будущее по-настоящему ценный груз: отчет о том, каким на самом деле было их детство. Ведь когда становишься взрослым, забываешь все важные вещи.

Восьмилетний Дуглас называет свое сочинение The Story of My Life So Far. Восьмилетний Питер озаглавил биографию Eight Years Old and Full of Beans, что тогда показалось Дугласу банальностью. Парни бьют по рукам и отправляют тексты в Time Machine, закопав их под дубом.

Какой будет Америка в будущем? Начнут ли автомобили летать? Захватят ли нас коммунисты, как наш говорит учитель? На дворе 1964 год.

Дуглас и Питер не встретятся через десять лет и уже никогда. Машина времени сломается, и пакет с сочинением о том, какой на самом деле была жизнь so far будет утерян. Автор эссе займется цифровой археологией детства и найдет память о своем потерянном друге, исследует на Google Earth местность вокруг их дуба.

Но это принесет лишь ресентимент и отчаяние. Возможно, нам вообще не стоит увлекаться слишком сильно цифровой памятью? А ведь многие так ценили интернет как машину, которая помнит все. Я по этой причине не сделал в своей жизни ни единого сториз.

И dark discovery тут вовсе не в том, что случилось с Питером.

https://www.wired.com/story/my-search-for-boyhood-friend-led-to-dark-discovery/

Вчера провел дискуссию о власти над интернетом с довольно неожиданными результатами. Идея была в том, чтобы попробовать устроить разговор между активистами отрасли с одной стороны, исследователями и философами с другой. В итоге самый полезный отраслевой эксперт Михаил Климарев из Общества защиты интернета занял визионерскую позицию: мол, скоро ничего не будет, а будет один только интернет, общество и политику придется пересобирать заново на новом уровне технологического развития, и никакие российские чиновники с этим ничего не сделают. Архитектура интернета такова, что сломать его не получится, а отключать уже поздно. Климарева поддержал его коллега Александр Исавнин. Социолог Полина Колозариди призывала всех к точности в определениях и напоминала, что интернет можно понимать по-разному, как инфраструктуру, как набор сервисов и как контент. А философ Алексей Глухов сходу всех завел и потребовал вернуть власть над интернетом пользователям, т.е. поставить сеть и технологические платформы под контроль демократии. А в конце дискуссии встал слушатель и отрезал: вы вообще полтора часа обсуждаете не те сущности, расскажите лучше, как на микроуровне власть делегирована алгоритмам. Государство, демократия, корпорации, эксперты - это все прекрасно, но реальное интернет-правительство имеет нечеловеческое лицо, наша жизнь организована ботами.

Сегодня Facebook предложил яркий кейс к этой теме. Поскольку число умерших пользователей социальных сетей растет, тема цифровой репрезентации смерти перестает быть абстрактной и становится этической дилеммой. Что делать с аккаунтами умерших, должны ли они оставатсья в поле нашего внимания и в каком виде? Ответ Facebook такой. С одной стороны, крупнейшая медиаплощадка мира будет развивать возможности по поддержанию цифровых мемориалов, аккаунтов с особым статусом, которые будут служить живым напоминанием об их умерших друзьях и родственниках. Создание мемориала возможно в результате особой юридической процедуры, когда пользователь сообщает, что делать с аккаунтом после своей смерти и назначает распорядителя. После документального подтверждения смерти, распорядитель сможет добавлять на страницу умершего мемориальный контент особого типа. С другой, поскольку пользователи Facebook жалуются на "болезненный опыт", связанный с тем, что умерших приглашают на мероприятия и предлагают поздравлять их с днем рождения или там отмечать "годовщины дружбы", платформа будет разрабатывать алгоритмы, которые позволят исключать аккаунты мертвых людей из таких показов.

Иными словами, определять, умерли вы или еще живы, будут определять боты Цукерберга на основании всей информации, которую вы передали о себе корпорации. Надо полагать, это будет происходить с достаточной точностью, так что вряд ли кто-то поверит, что вы живы, если алгоритм утверждает обратное. Ключевой вопрос человеческой политики, определяющий саму ее возможности, между делом будет делегирован машине.

Мемориализация смерти теперь дело алгоритмов, которые покажут, как правильно скорбеть и помнить, когда и в каких формах это уместно делать. Собственно, это часть большой истории про колонизации человеческого опыта машинами, посередине которого мы находимся. Возможно, действительно, именно здесь нужно искать цифровую власть, а разные там китайские социальные рейтинги - это частный случай.

​​Правительство Китая выпустило приложение для изучения пропаганды. Его пользователи получают очки за просмотр идеологически правильных статей и видео, а также прохождение тестов. От членов партии и госслужащих требуют набирать очки, изучая мудрость лидера страны Си Цзиньпина.

Но умелые китайцы создали специальное приложение, которое имитирует действия живого пользователя и просто пролистывает статьи и видео с пропагандой.

Набирать баллы нелегко. Вы получаете 1 балл в день за запуск приложения, ещё по одному — за прочтение статьи и за просмотр видео. Каждые 4 минуты чтения и 5 минут просмотра видео приносят ещё по бонусному баллу.

Пока я обедал, читерское приложение делало свою работу. За 40 минут оно просмотрело восемь статей, включая новости про территориальный спор с Индией и визит вице-премьера в Гонконг, и две серии телешоу о марксизме. Я получил 17 баллов — неплохо, учитывая количество затраченных усилий.

Какой абсурд.

9 апреля делаю дискуссию об интернет-правительстве с невероятной конфигурацией спикеров https://www.facebook.com/events/2228601353900167/

New York Times публикует мощный текст с основным тезисом: потребление цифровых услуг - это признак бедности. Мы говорим цифровая экономика, а подразумеваем экономика услуг для бедняков.

Вы бедный, если ваш врач консультирует вас по интернету, а не в ходе личной встречи.

Бедный, если ваши дети учатся онлайн, а не у оффлайновых преподавателей.

Бедный, если покупаете товары онлайн, а не в красивом магазине в центре города.

Для бедных существует гигантский рынок сексуальных услуг онлайн, на котором жители третьего мира продают эротические фантазии бедным гражданам мира первого, которые в состоянии потратить на это лишние десять долларов.

Тот факт, что богатые предпочитают старомодных тьюторов, личных тренеров и поваров, а не Coursera или доставку еды через смарфтон, ни для кого не секрет. Но автора статьи Нелли Боулерз идет дальше и заявляет, что происходит "люксеризация" человеческих отношений.

Если вы по-прежнему получается услуги от живых людей или имеете возможность общаться с ними, значит скорее всего вы представитель новой элиты, престижное потребление которой заключается в отказе от цифровых услуг в пользу оффлайновых.

Бедные покупают в кредит Айфон, богатые отказываются от смартфонов. Бедные стараются сделать так, чтобы их дети умели пользоваться компьютерами, богатые предлагают своим наследникам частные школы, где обучение строится на общении между людьми. Жизнь, проведенная перед экраном, теперь есть признак вашей неуспешности в жизни.

В этом моменте Боулерз сбивается на довольно спорные утверждения о том, что взросление с гаджетами вредит когнитивному развитию детей и утверждает, что на стороне IT-корпораций в этой дискуссии выступают многочисленные недобросовестные психологи.

Но когда она описывает 68-летнего пенсионера, живущего на прожиточный минимум, главным собеседником в жизни которого стал нарисованный на планшет кот по имени Sox, текст в целом воспринимается как чрезвычайно убедительный. Нарисованного кота для присмотра за пожилыми людьми придумал 31-летний бизнесмен, сотрудники его стартапа работают из Филиппин.

Если о том, что вы умираете, вам сообщит компьютерная программа, это значит, что вы умираете как бедняк в цифровой экономике.

https://www.nytimes.com/2019/03/23/sunday-review/human-contact-luxury-screens.html

Полезная книга для всех, кто думал, что мы не имеем отношения к античности

уют борьбы с преступностью и безопасной среды, игра тут стоит свеч. Даже если стыдливо замалчивать вопрос о политической полиции и цензуре.

Что мы можем противопоставить этому прекрасному видению ситуации? Я сходу не нахожу ответа.

А потом слово взял Артур Хачуян, у которого бизнес по анализу открытых данных. Основное направление, насколько я понял, маркетинговое, но вот еще есть сервис, который позволяет родителям контролировать поведение своих несовершеннолетних детей в интернете, отслеживая их "цифровые следы". Хачуян видит в этом гуманистическую задачу, мол, взрослые так смогут лучше понимать подростков, а сам инструмент слежки описывает как нейтральный. Мол, следить можно разными способами, например, глядя в окно.

Но в целом молодой человек с дредами Хачуян тут совпадает с автором учебников по оперативно-розыскной деятельности Овчинским: технологическая ситуация такова, что цифровая слежка неизбежна, давайте просто примем это и будем жить дальше.

И вот это крипово.

Я спросил у Артура в шутку, не хочет ли он открыть версию Tinder на основе соотносения "цифровых следов" человека за всю историю его использования интернетом, ведь это позволяло бы находить партнеров как бы "эффективнее".

Подвох тут в том, что личный выбор алгоритмизируется прямо в сердце мифа об аутентичности человеческого выбора - романтических отношениях.

Хачуян тоже это, кажется, понимает, но с готовностью отозвался, что его компания таким проектом уже занималась и сейчас готовит улучшенную версию платформы. Более того, для проектом несколько сотен добровольцев занимались сексом в датчиках для того, чтобы понять, какую статистику можно извлечь из этих данных.

- Вы, наверное, думали, что сториз исчезают из интернета навсегда? - спросил Хачуян публику под конец. - Ха-ха-ха.

Так вот, а я спрашиваю: кто тут главное зло и чья история страшнее?

На выходных участвовал в отраслевой конференции OpenTalksAI по искусственному интеллекту. Было довольно крипово, но в хорошем смысле слова.

В одной дискуссии сошелся хипстерского вида специалист по анализу данных, советник министра МВД и военный эксперт.

Судите сами, чей рассказ был более пугающим.

Военный эксперт Вадим Козюлин сделал доклад об использовании автоматических систем анализа информации в современной войне.

В Стэнфордском курсе по этике ИИ именно вопрос об автономном вооружении является ключевой точкой, где сходятся все наши дискуссии о природе человека, его ответственности и границах технологического прогресса. Есть общественные организации, которые требуют запретить разработку "роботов-убийц", как сейчас запрещено химическое оружие.

Вадим объясняет, что такое давление со стороны этических аргументов может заставить производителей дронов инвестировать в создание нелетальных автономных видов вооружения.

Аргумент, который тут прочитывается, примерно такой: это людям нужно было убивать других людей, чтобы победить в войне. Более совершенным солдатам-машинам убийства ни к чему, они смогут эффективно обездвижить противника, не лишая его жизни не не нанося непоправимых травм. Используя, например, тазеры, которые сейчас стоят на вооружение полицейских.

Что-то вроде героя Арнольда Шварценеггера в "Терминаторе-2" после того, как юный Джон Коннор приказал ему никого не убивать.

Тогда производители автономного оружия поставят вопрос так. Выбирайте между нелетальными боевыми роботами и массовыми жертвами людей в случае запрета таких роботов, если войны будут идти по старинке. Этический аргумент против использования ИИ в вооружениях через это отводится, и развитые страны начинают постепенно делегировать войну на всех уровнях, и как тактическим единицам, и как центрам управления такими единицами, машинам. Возможно, число жертв военных конфликтов в итоге действительно бы уменьшилось.

И все было бы относительно хорошо и гуманно, по крайней мере в ближайшей перспективе, если бы не слово "полицейских" выше. Если выбросить из войн убийства, то осуждать постоянное ведение войны станет труднее, а само состояние военных действий станет неотличимым от "поддержания мира", а точнее от полицейских операций. Различия комбатантов и нонкомбатантов уйдет в прошлое, а армия и полицейские силы, сдерживающие, скажем, городские бунты, станут неотличимы друг от друга. Что смогут граждане противопоставить государству, вооруженному тысячами нелетальных дронов?

Небольшое изменение баланса в сфере военной техники и правил ведения войны грозит опрокинуть все наши стандартные представления об общественной жизни.

Потом выступал советник министра внутренних дел Владимир Овчинский, и таких представителей МВД я еще не видел. Овчинский цитировал философа Ника Бострома, рассказывал про китайский социальный рейтинг, свежие законы Евросоюза о сборе данных и доклады ФБР, посвященные кибербезопасности ("мы их сразу получаем и переводим").

Вопросы к Овчинскому были связаны про новость о том, что в Москве полицейские получат умные очки с распознаванием лиц, и что 150 тысяч камер наблюдения сейчас объединяются в сеть с такими же функциями - так что оператор сети будет фактически знать о всех ваших оффлайновых перемещениях.

Позицию советника министра я бы охарактеризовал как циничный прагматизм: тотальная слежка - это наше неизбежное будущее и даже уже настоящее, и ни одно государство в мире от таких возможностей не откажется.

Дальше Овчинского спрашивают: а что будет, если эти данные попадут в третьи руки?

Он говорит: - Ну и попадут, а что с этим можно сделать?

Его спрашивают: а что будет, если система меня перепутает и я буду задержан по ошибке? Осознает ли, мол, МВД меру ответственности за такие погрешности.

Овчинский отвечает: - Ну и задержат по ошибке, обязательно. Ну потом будут разбираться, и отпустят. Или нет. Ха-ха-ха.

Ставка, в общем в том, что мы все сидим в одной технологической лодке. Раз можно собрать всю информацию с камер и обработать ее в масштабах мегаполиса, значит так и будет сделано. Для любого государства, от которого треб

где-нибудь в другом мире прогресс шарахнулся слегка в другом направлении. первыми появились технологии не создания искусственных интеллектов, а сохранения естественных – короче, после смерти тела личность «загружается в компьютер»

кое-кто, конечно, и за гробовой доской может позволить себе невиданные формы электронной эйфории. однако почти все работают, чтобы оплачивать техподдержку своего существования 24/7. это создает источник естественных интеллектов для машин и механизмов

один целый рабочий день сражается против живых участников онлайн-игры. другой водит «беспилотный» автобус. тот бесконечно тупеет от монотонности, управляя промышленными манипуляторами. этот распознает регистрационные знаки с дорожных видеокамер