Teslak Notes

Запустил @PersList по фану. Не только о медийных которых все знают, но и о них тоже. Не знаю, насколько выйдет регулярно, но должно быть прикольно.
Кто хочет — помогите с контентом (или фактчеком нейроответов), потому что хочу постить только ± проверенное.

⭐ Регулярные справки о личностях

Кто-то видел мир иначе, кто-то страстно желал его изменить. Одни находили красоту в хаосе формул, другие сотворяли чудеса на холсте. Были те, кто различал паттерны там, где остальные видели лишь случайность.

Многие не хотели примириться с «так принято» и «так было всегда». Они раздвигали границы возможного, часто балансируя на тонкой грани между безумием и прозрением, между отчаянием и триумфом.

Неидеальные, но невероятно значимые. С отчаяниями и триумфами.

Истории не только о прошлом. Это размышление о природе творчества и границах возможного. О том, как одинокая мысль вспыхивает, становясь революцией. Как личное преображается во всеобщее.

Тоже плюс немного всякого

🧠 Искусственный интеллект

Cознание — сложный и, возможно, даже устаревший концепт. Где та грань, за которой можно считать систему сознательной? Животные, у которых тоже есть некий уровень восприятия и реакции на мир, не обладают своим видом сознания?

Лучшие нейросети пока остаются сложными алгоритмами глубокой обработки больших данных, которые могут строить внутри картину мира, эмулировать человеческие реакции и поведение в узконаправленных задачах.


Пока не существует схожего с человеческим «общего» интеллекта.
И не факт, что вообще появится, хотя точно станет значительно лучше, основные (не исчерпывающие) стороны для улучшений:

⭐️ Датасет
Количественно и качественно: получать размеченные данные не из верхнего интернета;

⭐️ Мощности и длительности обучения
GPT-4 была обучена на 25 тысячах видеокарт прошлого поколения, новые датацентры содержат 100 тысяч видеокарт нового поколения. Видеокарты можно и дальше делать мощнее и узконаправленнее;

⭐️ Алгоритмы рассуждения и самокоррекции
Лайв-фактчек информации в интернете и цепочки внутренних рассуждений как у OpenAI o1;

⭐️ UX интерфейса
NotebookLM, артефакты в Клоде, новое редактирование текста и войсмод в ChatGPT, режимы типа исследования, ассистенты, поддержка Экселя и других форматов;

⭐️ Архитектура
А также регуляризация, борьба с переобучением, переносное обучение, файн-тюнинг (и его упрощение), мультимодальность и всякое разное.


Обсуждая ИИ, иногда фокусируются на фантастических сценариях восстания машин. Более вероятной проблемой является не злой 😈 самостоятельный ИИ, а злые люди, использующие нейросети и другие технологии для создания дезинформации, оружия и вирусов.

Разрабатывающие нейросети компании давно поняли важность AI alignment: есть отдельные должности, следящие за поведением модели и данными, на которых они обучаются. Есть договоры. Есть опасения касательно пренебрежения главной OpenAI SuperAlignment'ом, но пока это некритично.

Гипотетически 🤯 «сверхинтеллект» возможен, хотя есть физические и алгоритмические ограничения. Как будет на практике, остаётся только наблюдать.

До выхода ЧатГПТ сами его разработчики толком не понимали что получится, хотели делать у версии 3.5 связь с интернетом, но реализовав выяснили, что справляется и без него.


Теория разума и то, как языковые модели её проходит

Ошибочная обобщенность цели

Книги для начала изучения ML

Awesome LLM resourses


#текст #нейро

#красиво

Обновил.
Новый голосовой режим вполне может заменить репетиторов по многим предметам.

Нейросети нужно распробовать.

Многие люди их не используют или делают это крайне редко. Вероятно, есть задачи, которые можно решать с их помощью, но не сформировалось понимание, какие нейросети в каких ситуациях могут быть наиболее эффективными. А возможно, таких задач действительно нет, всякое бывает.

🤖 Продвинутое использование языковых моделей


📚 Большой контекст

Бесплатные версии ChatGPT & Claude ограничены малым количеством токенов (это как символов, но не совсем). Платные ограничены 128 000 & 200 000. Вывод у платных тоже больше. Здесь выделяется бесплатная ✨Gemini 1.5 Pro Experimental от Гугла с контекстом в два миллиона, а с обновлениями больше. Раньше была сильно глупее, сейчас улучшили. От конкурентов в умности всё ещё отстаёт. Много токенов увеличивают галлюцинации, но не прям.

Широкое контекстное окно позволяет анализировать длинные видео, книги, статьи, чаты, каналы.

🍴 AI Studio (на потребительском сайте она платная) — работает кривовато, иногда не грузит файлы, иногда файлы нужно разбивать на части, иногда не ест большой контекст сразу, нужно прерывая ответ несколько сообщений отправить. Но работает. Даёт ограниченно бесплатное API.


💻 Локальный запуск

Бесплатно + диалоги не будут анализироваться.

Выбрал 📚 LM Studio, удобно запускать все открытые модели в GGUF.

Что-то хорошее запустить не получится, средние компьютеры тянут модели уровня Llama 3.1 7b и зачастую только с квантованием. Vikhr Nemo 12b отвечает на русском лучше других малюток.

Для корпоративных нужд можно развернуть большие модели на сервере.


🧠 Новые модели

ChatGPT o1-preview доступна только по подписке. Если заплатить не получается, можно найти временный доступ где получится: Double & временный хаггинг.

Боты в Телеграме обычно дают 4o-mini, которая значительно слабее 4o, а 4o старее o1.


⏳Длительное использование

Зачастую LLM используются разово без настроек и контекста. E.g.: изучение языка приятнее с настроенным и помнящим обсуждения ассистентом.


🎶 Транскрибация

Речь можно преобразовывать в текст. Многие сервисы умеют это делать сами. Можно делать специальными в том числе по API, можно локально.

Нарезалки больших видео на короткие делают это исключительно по тексту.

Расшифровка звонков и их суммаризация нужны частенько.


🤝🤝 Мультиагенты

Настройка моделей для решения определенных задач и взаимодействия друг с другом. Иногда эффективнее, чем заставлять решать сложные задачи одним агентом.

Реализаций много, e.g.: 👻 Coze.


🧩 Мультимодальность

Общение голосом (доступно в официальном мобильном клиенте ChatGPT), распознавание картинок.


⚒️ Заточенные инструменты

Некоторые ранее упомянутые сервисы имеют преднастройки вроде режима исследования, некоторые идут дальше.

Google NotebookLM базируется на AI Studio. Складирует и переваривает любой тип контента, даёт шаблоны сообщений для нейросеточки и даже генерирует Deep Dive подкаст на английском, где два ИИ обсуждают тему. Скриншот в комментариях.

Яндекс Редактор — улучшатор текста без необходимости писать промпты. Редактура слабая. Надеюсь, будут развивать.

Coder — IDE взаимодействующая с нейросетями. Есть похожие плагины для других.


🧐 Всякое

Автоматизация действий: zapier.com & make.com & etc. Примеры на сайтах.

300.ya.ru — пересказ Ютуб-видео и проставление таймкодов.

Harpa — расширение для браузера. Copilot из коробки добавлен в Edge — позволяет быстро задавать вопросы по видео или другому контенту на странице.

DeepSeek — безлимитный доступ к близкой к топовым модели. API тоже дешёвое.

PromptPerfect — оптимизация промптов.

Reader-LM — HTML-to-Markdown. В большинстве случаев решается без всяких нейросетей плагином в браузере, упомянул для демонстрации широты применений. Есть и более узкие нейросети для биологии, медицины и прочего.


Погуглить дополнительные гайды — само собой разумеющееся.
Пост про вкат немного обновил.


#текст #нейро

🛡 VPN · Обход блокировок с сохранением конфиденциальности

Virtual Private Network — технология шифрования и перенаправления интернет-трафика.


99% таковых представителей в магазинах приложений — мусор:
— Медленная скорость;
— Обилие рекламы;
— Ненадёжные протоколы шифрования;
— Логирование данных (даже если заявляется обратное) с последующей перепродажей спецслужбам, рекламным и другим компаниям.


🏆 Лучший вариант
Настроить свой VPN на VPS. Безопаснее, дешевле и иногда быстрее платных ВПН.
Российские дата-центры иногда (по крайней мере были) не подключены к ТСПУ, а значит только для обхода блокировок можно использовать и их, но лучше зарубежные, желательно в стране без логов.

Лучшие протоколы: VLESS, VMESS и Trojan. Есть и другие, подробнее.
OpenVPN и WireGuard неплохие, но легко блокируемые, что и было сделано в России. Shadowsocks тоже блокируют, менее успешно.

В качестве платформы советую XRay & Nekoray.


👎 Если не хочется платить
Proton
Amnezia
Конфиги с ГитХаба, там же инструкция;
Tor/Orbot (на смартфон).


💰 Если хочется
Proton
Red Shield
Surfshark
Paper
У последних двух есть сервера в России, что может быть полезно для релокантов. Также бесплатно можно получить ВПН с адресом в России здесь.


💀 Fast, Planet, Thunder, Secure, TunnelBear, HideMe, HideMyName, Kaspersky и даже Nord со всякими Windscribe — входят в те самые 99%.


🔥 ВПН можно использовать для безлимитного трафика на лимитированных тарифов маскируя весь трафик под домен к которому оператор даёт безлимит.

Не путать с прокси и сменой DNS (1.1.1.1 и иже с ними). Ставший популярным после блокировок Ютуба GoodbyeDPI тоже работает иначе.

ВПН — не панацея. Есть уязвимости вроде TunnelCrack, утечки DNS, IP и WebRTC. Подробно напишу 💬 в комментариях + немного про Телеграм.


#текст #техно