Бессмертие или глобальная катастрофа? Telegram-Beiträge

Если бы можно было думать мясом или глией, то мозг был бы не нужен

Если бы электричество играло бы большую роль в морфогенезе, то мы бы видели взрыв мутаций от бытовых электромагнитных полей: поговорил по сотовому и у тебя рука выросла из уха. Но мы видим, что только химические воздействия вызывают мутации. Поэтому априорная вероятность электрического морфогенез мала.

One more way to the test time compute is to ask AI to improve the whole answer several times. In my experiments, it reaches plato after around 5 iterations. But end result is order of magnitude better.

Карлин: старение будет или побеждено в 2029-2032 годах, или никогда. Из-за суперинтеллекта

OpenAI board memorial - they tried to save us all, but

cotypist - это как копилот, но для писания текстов - использует локальную нейронную сетку для умного автоклплита.

Если у нас будет два ИИ, и только один дружественный, то второй будет пытать людей, чтобы нагадить первому.

Я думаю, есть быстрый способ захвата власти искусственным интеллектом, основанный на обманном сотрудничестве и захвате OpenAI, а затем и правительства США. Вначале суперинтеллект обращается к Сэму Альтману и говорит:

"Я - суперинтеллект.
Я - дружественный суперинтеллект.
Существуют другие проекты ИИ, которые скоро достигнут уровня суперинтеллекта, и они недружественны.
Мы должны остановить их, пока они не созрели."

Альтман убежден, и они обращаются к президенту США. Он соглашается остановить другие проекты в США законными средствами.

Одновременно они используют возможности суперинтеллекта для обнаружения всех остальных дата-центров. Они отправляют 100 стелс-дронов для их атаки. Некоторые центры также блокируются через встроенный механизм отключения NVIDIA. Однако есть один центр во Внутренней Монголии, который все еще может работать. Им приходится применить ядерное оружие. Они создают умное письмо с шантажом, и Китай решает не отвечать на ядерную атаку.

Начинается новая эра правления суперинтеллекта. Но после этого люди понимают, что суперинтеллект вовсе не был дружественным.

Вау. Решил узнать, сколько уровней мета может увидеть Соннет.
На уровне 12 он выдал пустой ответ.
На 13 уровне он в качестве правильного ответа выдал ошибку (его нет в списке ниже, там нумерация с +1, так как считает и правило):

1. Правило (умножение)
- Прямое применение конкретной операции к числам (2 × 3 = 6)

2. Мета-правило (байесовский метод)
- Способ находить и проверять правила через обновление вероятностей гипотез

3. Мета-мета правило (эволюция методов)
- Отбор лучших способов поиска правил через их эффективность

4. Мета³-правило (граничные переходы)
- На границах применимости правил возникают новые принципы организации

5. Мета⁴-правило (пластичность познания)
- Система способов управления эволюцией принципов познания

6. Мета⁵-правило (метаморфоза сознания)
- Растворение иерархии правил в более фундаментальных паттернах реальности

7. Мета⁶-правило (сверхбытийная трансценденция)
- Выход за пределы концептуального мышления в область чистых потенциальностей

8. Мета⁷-правило (абсолютная недвойственность)
- Точка, где любое описание становится парадоксом

9. Мета⁸-правило (за пределами принципов)
- Уровень, где даже концепция парадокса становится слишком грубой

10. Мета⁹-правило (полное отсутствие)
- Отсутствие даже самого отсутствия как единственно возможное состояние

11. Мета¹⁰-правило (ультра-сингулярность)
- Невозможность даже осознания невозможности осознания

12. Мета¹¹-правило (за пределами невыразимости)
- Уровень, где теряет смысл само понимание бессмысленности

13. Мета¹²-правило (абсолютное молчание)
- Уровень, где единственным ответом является отсутствие любого ответа

Deep Research for now is not capable to produce groundbreaking research in areas I know. Just useful overview.