• Первый раз увидел Дарио Амадея. Если Сэм Альтман более похож на скользкого Цукерберга, который никогда не скажет правду (его интервью у Лекса просто не возможно смотреть), то за Клод стоит энергичный задрот (в универе он занимался физикой кстати), который намного живее и трушнее, чем Альтман (по крайней мере так кажется).
• Интервью началось конечно же о насущном вопросе развития ИИ. Скептики сейчас говорят, что оно скоро упрется в стену. Компаниям конечно же выгодно вешать лапшу на уши и говорить, что все ок, главное не переставать скейлить (увеличения моделей, размеров датасетов и вычислительный мощностей для тренировок).
• Дарио говорит, что да скейлинг это единственный вариант, но добавляет, что ограничением развития нейронок станет отсутствие новых данных, а точнее качественных данных. Но может произойти и такое, что не смотря ни на что, развития остановится и придется придумывать новую архитектуру.
• На вопрос из реддита тупеют ли нейронки с выходом новой версии Дарио ответил, что нет. Мозги моделей остаются, но проблема всех больших ИИ компаниях в том, что они очень чувствительны к легким измениям в промтах, которые мы задаем. Никто не знает пока, как это исправлять.
• Первая главная угроза — использование ИИ в кибер, био, радиоктивных, ядерных интересах. Вторая — дать доступ и контроль моделям в критически важные сферы. Чтобы этого избежать в Claude есть система тестов и присвоения категории безопасности от 1 до 5. Нынешней модели присвоен статус 2, что говорит о определенной тупости, чтобы сулить какой-либо риск. А вот, когда модель достигнет 3 уровня, то к ней начнутся жесткие тесты по двум первым пунктам. Это может случится уже в следующим году!
• Дарио много лет проработал в Open AI. На вопрос почему он оттуда ушел, он ответил, что у него просто было видение, как сделать лучшую модель. Самое непродуктивное, что можно сделать — пытаться изменить видение другого.
• Самым важным навыков для ИИ ресерча Дарио назвал любознательность (open minded). Как он сказал у него просто научный мозг, который если видит переменные, то хочет их менять. Это самое простое, что можно делать, но очень мало кто осознает. Все мировые открытия построены на этом.
• Те кто говорит что суперинтеллект появится в ближайшее время не учитывают сложность человеческих систем. Но миллион раз оговариваясь, он говорит, что сверхИИ можно получить через 2-3 года.
• Из всех профессий под угрозой находятся програмисты, тк ИИ ближе всего к коду и языкам, умеет его писать, а значит запускать. К 2026-2027 нейронки могут решать большинство задач, учитывая что они будут прямолинейными. Программисты больше перейдут на архитектурный уровень.
• ИИ настолько классно работает, потому что его не кодят, а растят. ИИ — органическая штука, которую мы создали, но мы до конца не знаем, как она работает.
На последок у Дарио на сайте есть единственное эссе манифест Machines of Loving Grace, где можно прочитать его видение развитие ИИ и почему он так приоритезирует безопасность и этичность (мб разберу след постом, не успел осилить)
https://www.youtube.com/watch?v=ugvHCXCOmm4&feature=youtu.be