Just links

Physics IQ Benchmark: Do generative video models learn physical principles from watching videos? https://physics-iq.github.io/

The Devil is in Temporal Token: High Quality Video Reasoning Segmentation https://arxiv.org/abs/2501.08549

https://fixupx.com/SpaceX/status/1880024050048589841

https://www.albaorbital.com/how-to

Suppressing Counter-Rotating Errors for Fast Single-Qubit Gates with Fluxonium https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.5.040342

Universal ratios along a line of critical points. The Ashkin--Teller model https://arxiv.org/abs/hep-th/0309129

Point Transformer V3: Simpler Faster Stronger https://openaccess.thecvf.com/content/CVPR2024/html/Wu_Point_Transformer_V3_Simpler_Faster_Stronger_CVPR_2024_paper

Homomorphic Encryption in iOS 18 (❄️ Score: 151+ in 3 days)

Link: https://readhacker.news/s/6kXxZ
Comments: https://readhacker.news/c/6kXxZ

Beating cuBLAS in Single-Precision General Matrix Multiplication https://salykova.github.io/sgemm-gpu

Finite size analysis for interacting bosons at the one-two dimensional crossover https://journals.aps.org/prresearch/abstract/10.1103/PhysRevResearch.7.013021

Efficient CPA Attack on Hardware Implementation of ML-DSA in Post-Quantum Root of Trust https://eprint.iacr.org/2025/009

IPDN: Image-enhanced Prompt Decoding Network for 3D Referring Expression Segmentation https://arxiv.org/abs/2501.04995

Multi-Context Temporal Consistent Modeling for Referring Video Object Segmentation https://arxiv.org/abs/2501.04939

Consistency Checks for Language Model Forecasters https://arxiv.org/abs/2412.18544

How to Minimize the Decoherence Caused by Black Holes https://arxiv.org/abs/2501.04773

https://rowansci.com/publications/the-charlottes-web-of-dft

Thermally driven quantum refrigerator autonomously resets a superconducting qubit https://www.nature.com/articles/s41567-024-02708-5

Soft symmetries of topological orders https://arxiv.org/abs/2501.03314

First-order quantum breakdown of superconductivity in an amorphous superconductor https://www.nature.com/articles/s41567-024-02713-8

Time-reversal symmetry breaking fractional quantum spin Hall insulator in moiré MoTe2 https://arxiv.org/abs/2501.02525

I talked about toric code at a group meeting, so here are my notes. They are a bit terse, but I think give a nice perspective on main ideas

Playing Chess with 84,688 Regular Expressions (🔥 Score: 151+ in 3 hours)

Link: https://readhacker.news/s/6kGte
Comments: https://readhacker.news/c/6kGte

Encrypted Qubits can be Cloned https://arxiv.org/abs/2501.02757

CodeElo: Benchmarking Competition-level Code Generation of LLMs with Human-comparable Elo Ratings https://arxiv.org/abs/2501.01257

Task Preference Optimization: Improving Multimodal Large Language Models with Vision Task Alignment https://arxiv.org/abs/2412.19326

Putnam-AXIOM: A Functional and Static Benchmark for Measuring Higher Level Mathematical Reasoning https://openreview.net/forum?id=YXnwlZe0yf&noteId=yrsGpHd0Sf

Show HN: Watch 3 AIs compete in real-time stock trading (Score: 154+ in 5 hours)

Link: https://readhacker.news/s/6kmms
Comments: https://readhacker.news/c/6kmms

A live dashboard where you can watch GPT-4, Claude 3, and Gemini analyze market data and make daily stock trades with real money. Each AI explains its reasoning, and you can compare their different approaches to the same data.
Link: https://trading.snagra.com?utm_source=hn (no signup required)
What you can try right now:
- Watch live trades from GPT-4, Claude 3, and Gemini
- Read each AI's full analysis and reasoning
- Compare their different interpretations of the same market data
- Track their real-time performance and win rates
- View historical trades and performance metrics
Built this over the holidays to study how different AI models approach financial decisions. Each morning at 9:30 AM EST, the AIs analyze market data and make real trades with $5 stakes.
Technical Implementation:
- Next.js frontend with real-time updates
- Node.js/Lambda backend for AI processing
- PostgreSQL for trade tracking
- Alpaca API for automated trading
- Consistent prompts for all models
Data Flow:
1. Daily market analysis (9:30 AM EST)
2. Each AI gets identical inputs:
- Financial headlines
- Market summaries
- Technical indicators
- Earnings reports
3. AIs provide:
- Stock picks with reasoning
- Entry/exit conditions
- Risk assessment
4. Automated trade execution
Note: This is an experiment in AI behavior, not investment advice. The goal is to study how different LLMs interpret financial data and make decisions with real consequences.
I'll be around to answer questions about the implementation.

POEX: Policy Executable Embodied AI Jailbreak Attacks https://arxiv.org/abs/2412.16633

NBLFQ: a lock-free MPMC queue optimized for low contention https://inria.hal.science/hal-04851700/document

Summary of the year for the channel "Just links" from @TGStat

https://journals.aps.org/prb/abstract/10.1103/PhysRevB.110.245140

Introduction to Black Hole Thermodynamics https://arxiv.org/abs/2412.16795

Anomalous Continuous Translations https://arxiv.org/abs/2412.14434

Experimental Demonstration of Logical Magic State Distillation https://arxiv.org/abs/2412.15165

Are Your LLMs Capable of Stable Reasoning? https://arxiv.org/abs/2412.13147

What no one has seen before: gravitational waveforms from warp drive collapse https://arxiv.org/abs/2406.02466

Topological Quantum Spin Glass Order and its realization in qLDPC codes https://arxiv.org/abs/2412.13248

ViCaS: A Dataset for Combining Holistic and Pixel-level Video Understanding using Captions with Grounded Segmentation https://arxiv.org/abs/2412.09754

Set of samples from veo2

https://fixupx.com/medhini_n/status/1868773280121077804
https://fixupx.com/doomie/status/1868747266368192543
https://fixupx.com/joeybab3/status/1868791012954718528
https://fixupx.com/ai_for_success/status/1868851632567693625
https://fixupx.com/babaeizadeh/status/1868841586739822638
https://fixupx.com/emollick/status/1868900000463528054
https://fixupx.com/hhm/status/1868773180032290997
https://fixupx.com/noonescente/status/1868761667041202449
https://fixupx.com/hhm/status/1868779762162057481
https://fixupx.com/joeybab3/status/1868792639568724384
https://fixupx.com/MayorKingAI/status/1868748484268187677

When a Crystal Ball Isn’t Enough to Make You Rich https://elmwealth.com/crystal-ball/

Efficient Online Reinforcement Learning Fine-Tuning Need Not Retain Offline Data https://arxiv.org/abs/2412.07762

Konwinski Prize
$1M for the AI that can close 90% of new GitHub issues
https://www.kaggle.com/competitions/konwinski-prize

How to Build a Quantum Supercomputer: Scaling Challenges and Opportunities https://arxiv.org/abs/2411.10406

Stochastic Taylor Derivative Estimator: Efficient amortization for arbitrary differential operators https://openreview.net/forum?id=J2wI2rCG2u

Willow, Our Quantum Chip (🔥 Score: 157+ in 1 hour)

Link: https://readhacker.news/s/6jg7b
Comments: https://readhacker.news/c/6jg7b

Waymo announces Miami as its next ride hailing city (🔥 Score: 154+ in 2 hours)

Link: https://readhacker.news/s/6j3Lv
Comments: https://readhacker.news/c/6j3Lv

Best-of-N Jailbreaking https://arxiv.org/abs/2412.03556

Perception Test 2024: Challenge Summary and a Novel Hour-Long VideoQA Benchmark https://arxiv.org/abs/2411.19941

Mastering Board Games by External and Internal Planning with Language Models https://storage.googleapis.com/deepmind-media/papers/SchultzAdamek24Mastering/SchultzAdamek24Mastering.pdf

Anti-topological crystal and non-Abelian liquid in twisted semiconductor bilayers https://arxiv.org/abs/2411.19898

YOLOv8 on tinygrad powered by WebGPU
https://github.com/wpmed92/yolov8-webgpu-tinygrad?tab=readme-ov-file

doesn't seem to work with Firefox tho

AI Benchmarking Hub https://epoch.ai/data/ai-benchmarking-dashboard

Can ChatGPT pass a physics degree? Making a case for reformation of assessment of undergraduate degrees https://arxiv.org/abs/2412.01312

NLTS Hamiltonians from good quantum codes https://arxiv.org/abs/2206.13228

Optimality of Gerver's Sofa https://arxiv.org/abs/2411.19826

Мы тут немного HashCode и AtCoder пошатали.
https://x.com/PetarV_93/status/1863542737552748984

Mini thread on LLM benchmarks
https://fixupx.com/evgeniyzhe/status/1862903906025496704

SAMWISE: Infusing wisdom in SAM2 for Text-Driven Video Segmentation https://arxiv.org/abs/2411.17646

HyperSeg: Towards Universal Visual Segmentation with Large Language Model https://arxiv.org/abs/2411.17606

CutS3D: Cutting Semantics in 3D for 2D Unsupervised Instance Segmentation https://arxiv.org/abs/2411.16319

Algorithmic Collusion by Large Language Models https://arxiv.org/abs/2404.00806

Non-Majorana-origin of the half-integer conductance quantization elucidated by multi-terminal superconductor-quantum anomalous Hall insulator heterostructure https://arxiv.org/abs/2411.14903

General Relativity https://cdn.prod.website-files.com/65c089cfdfce11a0392e5c42/67469a196f855821380fffa4_GR-2024.pdf

Most ideas still don't scale
https://fixupx.com/Yuchenj_UW/status/1861477701821047287

Arithmetic Without Algorithms: Language Models Solve Math With a Bag of Heuristics https://arxiv.org/abs/2410.21272

Domain walls from SPT-sewing https://arxiv.org/abs/2411.11967

First Results of Differential Doppler Positioning with Unknown Starlink Satellite Signals https://ieeexplore.ieee.org/document/9843493

BALROG: Benchmarking Agentic LLM and VLM Reasoning On Games https://arxiv.org/abs/2411.13543

ChatGPT’s Poetry is Incompetent and Banal: A Discussion of (Porter and Machery, 2024) https://cs.nyu.edu/~davise/papers/GPT-Poetry.pdf

Higher obstructions to conformal boundary conditions and lattice realizations https://arxiv.org/abs/2411.11757

OpenAI Email Archives (from Musk v. Altman) https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman

SLAck: Semantic, Location, and Appearance Aware Open-Vocabulary Tracking https://arxiv.org/abs/2409.11235

TDPO — потокенный DPO или просто регуляризация?

Авторы сегодняшней статьи предлагают метод потокенного Direct Preference Optimization (DPO), который на бумаге должен исправить некоторые проблемы оффлайн-обучения с подкреплением. Но на деле все оказывается не так просто.

DPO — метод обучения, не полагающийся на reward-модель. Здесь применяют датасет с размеченными парами запросов и ответов, чтобы натренировать генератор на контрастный лосс.

Проблема в том, что в случае с DPO мы работаем с вероятностями последовательностей целиком. Метод ограниченно контролирует поведение модели на уровне отдельных токенов. Это приводит к тому, что модель может ошибочно сильно повышать или понижать вероятность отдельных токенов значительно после совершенных ошибок.

Эту проблему можно нивелировать, если сделать DPO потокенным. Авторы статьи пытаются добиться этого.

Для начала они предлагают ввести необычное ограничение — сделать так, чтобы сумма наград всех токенов-продолжений для произвольного префикса была равна 0. Это довольно сильное допущение: например, если мы решаем задачу копирования какого-то куска текста, то будем сильно штрафовать модель за любое отклонение. Как результат — награда за правильный токен окажется очень большой. В этом случае, если при выборе между длинной и короткой строкой, модель будет склоняться к длинной строке.

Такое ограничение позволило авторам в их расчётах лосса избавиться от нормировочной константы вероятностного распределения. Чтобы ее вычислить, нужно суммировать награду по всем возможным ответам, а это невозможно, поэтому от константы при расчётах избавляются. В DPO нормировочная константа одинакова для победившего и проигравшего ответов, поэтому она сокращается в лоссе, но авторы статьи сделали это несколько иначе.

Из их математической модели выводится функция, которая очень похожа на DPO. Но в отличие от DPO, авторы вычитают из неё разницу между SeqKL проигравшего и победившего ответа. Этот метод, названный Token-level Direct Preference Optimization (TDPO), обеспечил незначительное улучшение по сравнению с обычным DPO. На датасете Anthropic HH точность увеличилась всего на 0,65%.

Далее авторы предлагают умножить на дополнительный коэффициент разницу SeqKL и не пропускать градиенты для победившего варианта. Это можно трактовать так: при росте SeqKL проигравшего ответа всегда увеличивается лосс, в то время, как при росте SeqKL победившего — лосс уменьшается. Получается, что добавка к DPO, после остановки градиента для её части, по сути работает, как регуляризация.

С ней метод получил название TDPO2 и он действительно неплохо улучшает показатели. На том же Anthropic HH прирост по сравнению с DPO составил уже не 0,65%, а 7,9%.

Авторы действительно предложили лучшее решение. Но возникает вопрос: насколько здесь велик вклад выведенной математической модели. По факту, авторы сильно меняют основные моменты в этой модели, а то, что остается, очень похоже на простую потокенную регуляризацию. Но её идея не нова: часто к DPO добавляют negative log likelihood loss — например, при DPO-обучении Llama 3.1, — что тоже является вариантом потокенной регуляризации. Мы склоняемся к тому, что научный вклад этой статьи невелик, а ключевые выводы — ошибочны.

Разбор подготовил ❣ Михаил Хрущев

Душный NLP

https://mlcommons.org/benchmarks/training/
tpuv6 ~ tpuv5
B200 ~ 2*H100

The LLM ARChitect: Solving the ARC Challenge Is a Matter of Perspective https://github.com/da-fr/arc-prize-2024/blob/main/the_architects.pdf

🌸Больше языков для LLM🌸
#nlp #про_nlp

Huggingface в поиске контрибьюторов носителей языков!
Корпус FineWeb на 15 трлн токенов теперь ждёт большое расширение на 1000+ языков 🎉

🟣Сколько языков сейчас представлены в практике моделирования языка?

Если считать, что в целом живых языков 6-7 тысяч,
— в базе Ethnologue 7164
— суммарно во всех LLM работах упоминается примерно 1500 языков (в основном за счет работ NLLB и Towards MT for next 1000 languages)
— у звучащей речи чуть лучше: 4000 языков, но у 70% из них меньше чем 2 часа записей (за счет XEUS)

🟣Бутылочное горлышко валидации
Все ресурсы, которые так или иначе языки описывают, можно расположить на 2 осях координат: их качество и их пригодность для ML-применений. Окажется, что наиболее доступные и пригодные для предобучения моделей корпуса (CommonCrawl, его вариации) в то же время оказываются и наименее качественными.

Причина тому — автоматическое определение языка (см fasttext)  невозможность ручной валидации. Автоматические быстрые классификаторы как правило могут с высоким уровнем надежности определить не более 200 языков, тогда как большинство языков оказывается в большой куче "мусора"  — наименее надежно атрибутированных данных.

Бутылочное горлышко для того, чтобы побороть валидацию на большом объеме данных — это наличие сообщества носителей языков, которые бы активно контрибьютили и помогали улучшить как классификаторы, так и способы оценки качества получаемых языковых моделей.

Я уже несколько раз рассказывала про ситуацию с многоязычными данными, и даже несколько раз за этот год меняла слайды — так быстро меняется ситуация! И сегодня даже в лучшую сторону.

🟣Инициатива HuggingFace

Помимо расширения корпуса FineWeb, HuggingFace ищет волонтеров и носителей языка, чтобы расширить именно процедуру многоязычной оценки языковых моделей.
Новая инициатива — FineTasks — объединяет 4 стандартных бенчмарк-формата:

— Машинное чтение: Понимание предоставленного контекста и ответы на вопросы на его основе.
— Общие знания: Ответы на вопросы о фактах из различных областей без дополнительного контекста.
— Понимание естественного языка (NLU): Понимание семантики предоставленного ввода.
— Рассуждения на основе здравого смысла: Демонстрация способности выполнять простые рассуждения, требующие воплощенных знаний.
— Генеративные задачи: Умение генерировать корректный текст на целевом языке.

Авторы уже собрали 185 задач для 9 языков: поддерживаются
китайский, французский, арабский, русский, тайский, хинди, турецкий, суахили и телугу.

Цель для полного бенчмарка — как минимум 50 языков из разных семей, ареалов и с разной письменностью.

Ну и... ждём большой новый многоязычный корпус с открытой лицензией!

Куда контрибьютить?
🟣 Контрибьютить новые задания и языки можно здесь в шаблоне
🟣Мини-гайд
🟣Блог HF

Training Language Models to Self-Correct via Reinforcement Learning https://arxiv.org/abs/2409.12917

Retrieval Head Mechanistically Explains Long-Context Factuality https://arxiv.org/abs/2404.15574

Unsupervised Hierarchy-Agnostic Segmentation: Parsing Semantic Image Structure https://openreview.net/forum?id=ELnxXc8pik

Optimized einsum https://optimized-einsum.readthedocs.io/en/stable/

Disentangled Unsupervised Skill Discovery for Efficient Hierarchical Reinforcement Learning https://arxiv.org/abs/2410.11251

https://fixupx.com/Alibaba_Qwen/status/1856040217897251044

Beyond The Rainbow: High Performance Deep Reinforcement Learning On A Desktop PC https://arxiv.org/abs/2411.03820

RL-GPT: Integrating Reinforcement Learning and Code-as-policy https://openreview.net/forum?id=LEzx6QRkRH

CAT3D: Create Anything in 3D with Multi-View Diffusion Models https://openreview.net/forum?id=TFZlFRl9Ks

Neural Pfaffians: Solving Many Many-Electron Schrödinger Equations https://openreview.net/forum?id=HRkniCWM3E

The Surprising Effectiveness of Test-Time Training for Abstract Reasoning https://ekinakyurek.github.io/papers/ttt.pdf

OpenCoder: Open Cookbook for Top-Tier Code Large Language Models (🔥 Score: 152+ in 3 hours)

Link: https://readhacker.news/s/6hHkN
Comments: https://readhacker.news/c/6hHkN

FrontierMath: A Benchmark for Evaluating Advanced Mathematical Reasoning in AI https://arxiv.org/abs/2411.04872
via @seeallochnaya

Shortcut Learning in In-Context Learning: A Survey https://arxiv.org/abs/2411.02018

A rudimentary quantum network link between Dutch cities (❄️ Score: 150+ in 1 week)

Link: https://readhacker.news/s/6hdy3
Comments: https://readhacker.news/c/6hdy3

Hacker Fab (Score: 156+ in 4 hours)

Link: https://readhacker.news/s/6hts2
Comments: https://readhacker.news/c/6hts2

Online Intrinsic Rewards for Decision Making Agents from Large Language Model Feedback https://arxiv.org/abs/2410.23022

Oasis: A Universe in a Transformer (Score: 152+ in 12 hours)

Link: https://readhacker.news/s/6hfxC
Comments: https://readhacker.news/c/6hfxC

When can classical neural networks represent quantum states? https://arxiv.org/abs/2410.23152

EMMA: End-to-End Multimodal Model for Autonomous Driving https://waymo.com/research/emma/

Stabilizing Non-Abelian Topological Order against Heralded Noise via Local Lindbladian Dynamics https://arxiv.org/abs/2410.21402

LVSM: A Large View Synthesis Model with Minimal 3D Inductive Bias https://haian-jin.github.io/projects/LVSM/

Large Language Models Reflect the Ideology of their Creators https://arxiv.org/abs/2410.18417

Anyonic Braiding in a Chiral Mach-Zehnder Interferometer https://arxiv.org/abs/2410.16488

Integrable and critical Haagerup spin chains https://arxiv.org/abs/2410.16356

Anyon Superconductivity from Topological Criticality in a Hofstadter-Hubbard Model https://arxiv.org/abs/2410.18175

Simulating quantum chaos without chaos https://arxiv.org/abs/2410.18196

How Should We Think about 10 TeV pCM Colliders? https://bapts.lbl.gov/Peskin.pdf

Как атмосферные эффекты влияют на изображение звезды?
#astro

Самая большая головная боль астрономов – это земная атмосфера. Из-за температурных флуктуаций коэффициент преломления тоже получается неоднородным, что сильно смазывает картинку. Гораздо сильнее, чем дифракционный предел.

Этот атмосферный эффект очень хорошо можно приблизить обычной фазовой пластинкой в плоскости объектива. Более того, мы можем забить на турбулентность и считать, что неоднородная атмосфера просто уносится по направлению ветра.

Анимация: как изображение звезды поплывёт под таким "ветром". Слева условная плотность атмосферы в пересчёте на толщину фазовой пластинки, справа – непосредственно изображение. Ноутбук в комментариях.

InternLM2.5-StepProver: Advancing Automated Theorem Proving via Expert Iteration on Large-Scale LEAN Problems https://arxiv.org/abs/2410.15700

Releasing AI-driven tools for understanding AI systems https://transluce.org/releasing-ai-tools

How to Evaluate Reward Models for RLHF https://arxiv.org/abs/2410.14872

Developing fractional quantum Hall states at 𝜈=1/7 and 𝜈=2/11 in the presence of significant Landau-level mixing https://journals.aps.org/prb/abstract/10.1103/PhysRevB.110.165143

SimBa: Simplicity Bias for Scaling Up Parameters in Deep Reinforcement Learning https://arxiv.org/abs/2410.09754

Tensor category describing anyons in the quantum Hall effect and quantization of conductance https://arxiv.org/abs/2410.04736

Quantum Criticality Under Imperfect Teleportation https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.5.030307

Algebraic topology for physicists https://member.ipmu.jp/yuji.tachikawa/lectures/2024-mathphys/notes.pdf

Robust Probabilistic Unsupervised Segmentation with Uncertainty Modeling https://openreview.net/forum?id=Rf4NnqHNSz

Temporal Prompting Matters: Rethinking Referring Video Object Segmentation https://openreview.net/forum?id=GcYcUE3GvY

Multi wavefunction overlap and multi entropy for topological ground states in (2+1) dimensions https://arxiv.org/abs/2410.08284

SpaceX lands Starship's rocket booster in the arms of massive metal pincers, marking a huge success in its fifth test flight.

Algorithmic Fault Tolerance for Fast Quantum Computing https://arxiv.org/abs/2406.17653

LLMs Are In-Context Reinforcement Learners https://arxiv.org/abs/2410.05362

Observation of disorder-free localization and efficient disorder averaging on a quantum processor https://arxiv.org/abs/2410.06557

One Token to Seg Them All: Language Instructed Reasoning Segmentation in Videos https://arxiv.org/abs/2409.19603

Language Models Learn to Mislead Humans via RLHF https://arxiv.org/abs/2409.12822

Почему не стоит верить nvidia-smi “GPU utilization”
arthurchiao.github.io/blog/understanding-gpu-performance/

Nvidia использует очень особый способ определения утилизации GPU. 100% означают не что девайс загружен на 100%, а что хотя бы одно ядро было использовано хотя бы чуть-чуть 100% времени за последние N (мили)секунд

Очень яркий пример это примитивы синхронизации: когда вы вызываете torch.barrier GPU Utilization становится 100% при том что на самом деле железо просто «активно ждет».

Для реальной оценки загруженности GPU лучше использовать SM Occupancy которая показывает средний процент загрузки ядер GPU (то что я бы изначально ожидал увидеть от utilization честно говоря).

Для этого рекомендуют использовать dcgm-exporter

https://fixupx.com/ItaiYanai/status/1842787938175697232

Optimization by Decoded Quantum Interferometry https://arxiv.org/abs/2408.08292

RLEF: Grounding Code LLMs in Execution Feedback with Reinforcement Learning https://arxiv.org/abs/2410.02089

Korteweg de-Vries Dynamics at the Edge of Laughlin State https://arxiv.org/abs/2410.01730

Chaitin Phase Transition https://arxiv.org/abs/2410.02600

Запустили Gemma 2 зафайнтьюненную на японский. Веса – на HuggingFace.

Заодно запустили соревнование на Кэггле на $150k 👀на адаптацию Gemma к 73 разным языкам, включая русский и украинский. Ждём ваших сабмитов!