Бессмертие или глобальная катастрофа? Telegram-Beiträge

deep reseacrh solved the task - but found it in internet

Из комментариев. И с моей стороны -без комментариев:
====================
🎧#ОСНАЗ. Как выглядит война против противника, имеющего искусственный интеллект (ИИ) на всех уровнях разведки, управления и наведения оружия ?

1. Маскировка невозможна. Вычислительные мощности позволят алгоритмам ИИ постоянно отсматривать весь материал, добытый разведкой и ничего не пропустить, любое изменение, например, поверхности земли с травой (появился бугорок) будет проанализировано почти мгновенно, и если под этим бугорком наш снайпер, то по нему отработает какое-то средство поражения, сразу же.

2. Невозможна радиоразведка — чаты GPT будут поддерживать настоящий радиообмен голосами реальных людей, взлом радиосетей и получение доступа к их переговорам только запутает разведку.

3. Теряет смысл РЭБ — каждая боевая единица автономна.

4. Появляются роевые средства поражения, не обязательно дроны, это могут быть даже модификации ракет, состоящих на вооружении уже сейчас.

5. Весь массив перехваченных радиопереговоров, например, с нашей стороны, немедленно переводится на английский, систематизируется и доносится до живого командования — это, кстати, уже есть, просто в меньших масштабах, почему зло от «Баофенгов» куда больше, чем многие думают.

6. Всё оружие обучающееся. Противотанковая ракета, от которой в последний момент машине или танку удалось увернуться успевает передать датасет (dataset) на борт носителя (того же модернизированного «Апача»), и он мгновенно облучает новую ракету, она пойдёт к цели уже «зная» про трюк с уходом с линии атаки. То же самое с торпедами, ПКР, ракетами «воздух-воздух», с любым управляемым оружием.

7. Разведка приобретает совершенно немыслимые ранее возможности, например у всех американцев встроенные в шлем гарнитуры, ИИ сможет получая с них фоновую помеху, выявлять на её фоне стреляющие артиллерийские орудия противника (наши, например) и, за счёт числа датчиков-микрофонов у солдат, точно выявлять положение этих орудий. И тоже самое с любым источником звука, например с шумом от танков откуда-то из подлеска.

8. На оперативном уровне любой трюк будет работать только один раз, и больше никогда.

9. На том же оперативном уровне, итогом обработки части разведданных будет их «прогон» через разные вероятностные рекурсивные фильтры типа «Фильтра Калмана» и им подобных, чтобы точнее предсказывать действия противника (наши).

И всё это не считая возможностей по манипуляциям с самим обществом-мишенью. Мессенджеры типа Whatsapp, анализ ПО операторов сотовой связи, которое обновляется из-за рубежа и т.д. позволит выделять даже такие связи между людьми, о которых они сами не знают, планировать и выявлять формы точечных воздействий, которые всё общество заставят идти в нужную сторону — и никто в стране-жертве этого даже не заметит.

Любой конфликт США и не-США уже сейчас будет избиением младенцев, но сейчас у жертвы есть шанс потерять убитыми миллионы и взять врага на измор, как талибы или вьетнамцы.
ИИ навсегда закрывает такие возможности. Это действительно «новая атомная бомба», если не хуже. Вот что может нас ждать в ближайшие годы.
#мысли

автокомплит для мака https://cotypist.app/

Gwern: Перевод:

"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.

Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.

Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"

Eliezer Yudkowsky ⏹️

That's just the obvious default? The main immediate danger that humanity presents to an ASI is creating a competing (unaligned) ASI.

Мэдисон отдыхает: Отколовшая от рационалистов секта трансов-веганов совершила серию убийств в америке. https://x.com/Aella_Girl/status/1884481375690223684

https://machinemindsmysterylights.substack.com/p/similarities-between-communities

Нет никакого парадокса белки

Соннет не видит особого удивления в продолжительности жизни белок, и результаты соответствуют теории о том, что уровень хищничества определяет скорость старения (которая предсказывает, что двух или трех удвоений смертности от хищничества достаточно (то есть 75-88 процентов вымирает от хищников), чтобы сделать дополнительную выживаемость нерелевантной и, следовательно, неподверженной естественному отбору):

"Соотношение продолжительности жизни в неволе и в дикой природе:

Белка:
- В дикой природе: 3.5 года (в среднем)
- В неволе: 11 лет (в среднем)
- Соотношение: 11/3.5 = 3.14 (примерно в 3.1 раза дольше)

Крыса:
- В дикой природе: 1.25 года (в среднем)
- В неволе: 2.5 года (в среднем)
- Соотношение: 2.5/1.25 = 2 (в 2 раза дольше)

Вывод:
- Белки в неволе живут в 3.1 раза дольше, чем в природе
- Крысы в неволе живут в 2 раза дольше, чем в природе
- Белки показывают более значительное увеличение продолжительности жизни в неволе по сравнению с крысами"

Прусс о вреде здорой пищи апельсинов и сельдерея https://www.facebook.com/share/18ZS9spEEK/?mibextid=WC7FNe

Ещё немного дискуссии с Лидским из твитера - теперь о разнице продолжительности жизни королев и рабочих особей термитов:

"Стать королевой - это программа, но скорость старения не является отдельным файлом в этой программе, а является свойством всей программы в целом.

Пример: Windows будет работать очень медленно на компьютере с 1 ГБ памяти. Это свойство программы Windows, а не то, что у Windows есть секретный параметр "работать медленно". Свойство "работать медленно" является результатом того, что в Windows много процессов, каждому из которых требуется выделение памяти. Это не свойство какого-то одного процесса внутри Windows.

Петр Лидский:
Паразиты могут переключать рабочих муравьев на такую же продолжительность жизни, как у королев, не делая их королевами. Значит, это отдельный файл.

Я:
Паразит влияет на множество путей одновременно (ChatGPT перечислил для меня более 10). Эти свойства паразита развивались постепенно с течением времени. И поскольку он действует на множество точек, это не является единственной точкой, которую можно было бы назвать отдельной программой старения."