Криптонит. Разработка, наука, шифрование

Символ айтишников 80-х годов. Перед вами Sharp PC-1500 — игровой калькулятор с магнитофоном и принтером. Рассказываем о нём ниже. #история_математики

В начале восьмидесятых годов XX века началось серийное производство продвинутых калькуляторов, которые могли хранить в памяти значения нескольких переменных и выполнять многоэтапные вычисления по заданному алгоритму. Одной из наиболее удачных моделей стала Sharp PC-1500, которую сейчас называют предтечей карманных компьютеров, или даже первым из них.

❗️Впервые Sharp PC-1500 был представлен в 1981 году в Японии, но менее чем через год стал популярен во всём мире. Появились адаптации для разных стран, включая Китай, Австралию и Бразилию, а в СССР был больше известен его венгерский клон HiradasTechnika PTA-4000.

🟢Изюминкой Sharp PC-1500 была его энергоэффективность — он питался от четырёх пальчиковых батареек, хотя был весьма мощным для своего времени. В нём использовался 8-битный процессор LH 5801, работавший на частоте 1,3 МГц и 2 КБ оперативной памяти.

🧮Устройство массой 375 грамм и размером со среднюю книгу подкупало своей универсальностью. К нему можно было подключить док-станцию, матричный принтер (четырёхцветный!), кассетный магнитофон и специализированные ленточные накопители, платы отладки и внешние модули памяти объёмом до 32 КБ с собственным питанием от литиевых элементов.

Главным преимуществом Sharp PC-1500 была способность запускать программы на языке BASIC. Со временем появились даже версии, поддерживающие программирование на Ассемблере и Си.

Для ввода команд использовалась клавиатура с 65 клавишами, а результат отображался на однострочном дисплей с разрешением 156×7 пикселей. На экран можно было выводить не только буквы и цифры, но и символы псевдографики.

📌У айтишников Sharp PC-1500 стал одним из символов 80-х. Программисты со всего мира написали для него десятки утилит и игр, запустить которые вы можете сегодня прямо в браузере.

«Доверенный искусственный интеллект» — это недостижимый в реальном мире идеал...

По крайней мере, так считает сотрудник кафедры ИБ факультета ВМК МГУ Евгений Ильюшин — своим мнением он поделился на встрече экспертного сообщества, которую организовал «Криптонит».

💬Прочитать полный обзор заседания экспертного клуба можно у нас на Хабре
📣Посмотреть видеозапись дискуссии можно на Rutube или VK видео

Для создания такого ИИ пришлось бы доверять всем его элементам на всех уровнях. Оснований для такого безоговорочного доверия нет, и вряд ли они вообще возможны за пределами абстрактной модели. Поэтому на практике целесообразнее оценивать надёжность ИИ по каким-то исчисляемым и проверяемым параметрам.

⚡️В большинстве случаев для оценки ИИ применяют статистические оценки: точность, полнота, F-мера. Однако в последнее время стало очевидно, что таких оценок недостаточно — нужно выполнять комплексную оценку надежности ИИ-систем, которая включает в себя статистические, формальные и эмпирические критерии. Как раз такую и разработал Евгений Ильюшин.

Эта система состоит из шести тестов, по каждому из которых результат можно выразить в долях единицы (или в процентах):
🟩оценка качества на исходном распределении;
🟩оценка устойчивости к сдвигам в распределении;
🟩оценка устойчивости к состязательным атакам;
🟩оценка неопределённости (энтропии);
🟩оценка интерпретируемости;
способность системы детектировать выход из распределения.

При оценке надёжности систем ИИ нужно смотреть, как они сохраняют устойчивость при разных типах сдвига и способны ли вообще детектировать выход из распределения. На сегодня в машинном обучении нет надёжных способов обнаружить ошибку. Если классическое ПО в случае получения на вход некорректных данных выдаст исключение или перестанет работать, то система ИИ попытается продолжить работу и вернет результат, при этом формат входных данных должен соответствовать ожидаемому. #доверенныйИИ

Согласны с Исааком Семёновичем? 🤔 #цитаты_вдохновляют

«Я не считаю, что криптография — это мужская профессия»

Поговорили с нашим специалистом-исследователем лаборатории криптографии Анастасией Чичаевой: правда ли, что криптография — шпионская профессия? А ещё обсудили, как стать таким специалистом, какие качества для этого нужны, и почему это больше не только мужская профессия.

Смотрите видео на любой из платформ:
📱 YouTube
📱 VK Видео
🟢 Rutube

🔹«Ты не всегда можешь гарантировать, что получится какой-то результат. Не всегда можно оценить, сколько тебе понадобится времени: часто в доказательствах всплывают подводные камни. Иногда некоторые задачи могут длиться больше года».

🔹«На математическом факультете всегда учиться тяжело. Хотя тогда тебе казалось, что это супер-важно, если я что-то не сдам. А сейчас со временем это кажется менее важным. Но бессонные ночи перед экзаменом были!»

🔹«У меня родственники вообще думают, что я просто сижу и что-то шифрую. Но это не так».

🔹«Спорт отлично помогает очистить голову после тяжёлой работы. После тренировки ты физически устал, но голова — чистая». #Криптонит_в_лицах

Ваш ребёнок — школьник, который разбирается в математике? Тогда скорее участвуйте в олимпиаде по криптографии имени И.Я. Верченко!

Это отличный шанс проверить свои знания по этим точным наукам. Задания будут непростые, но и ставки высоки — победители и призёры смогут поступить в вуз без экзаменов! Все подробности читайте в правилах на сайте.

Отборочный этап проходит онлайн, поэтому можно участвовать из любого города!

⚡️Скорее регистрируйтесь!

📌Иван Яковлевич Верченко — советский математик, криптограф, педагог, доктор физико-математических наук.

Уйти из айти — бросаем разработку ради психологии и смотрим, что из этого получится. Спойлер: возвращение обратно на апгрейде.

Наша руководительница группы серверной разработки Анна Пономарёва так и сделала: поработав пару лет во фронтенде, она пошла учиться на психолога в магистратуру. Чтобы потом вернуться в разработку, но уже в бэкенд.

🟦Есть ли взаимосвязь между темпераментом человека — холерик, сангвиник, меланхолик, флегматик — и парадигмой программирования, которую он выбирает?
🟦Что лучше: 12 часов перед экраном ноутбука один на один или 6 часов работы с людьми?
🟦Помогает ли знание психологии лучше управлять командой?
🟦И правда, что все айтишники — необщительные интроверты?

💬Об этом и не только читайте в нашем новом интервью на Хабре. Внутри есть ссылка на классный курс, который поможет перестать бояться выступать на митапах и конференциях.

🔹«Мы проводили разные виды тестирования больных. Это морально тяжелая работа, потому что в тестах могли быть вопросы из серии: "Вы хотите умереть?". Как-то я проводила тестирование 73-летнего дедушки, заслуженного учителя. Он говорит: "Зачем вы это спрашиваете? Чего вы хотите добиться?". А что я могу сказать? "Это вопрос опросника. Потом кто-то на основе ваших ответов напишет статью"? Было много таких циничных моментов, как в целом часто бывает в медицине».

🔹«В разработке, математике, физике и т.д. очень много экстравертов. Я думаю, этот миф пошёл из стародавних времён, когда Computer Science занимались очень увлечённые люди, такие учёные в очёчках. Вот они возможно действительно были интровертами. Но это была совсем другая эпоха и другая область».

🔹«У любого специалиста должна быть супервизия. Психоаналитик или психолог, который сам не ходит на сессии — это точно ред флаг. Это некоторая гигиена, как мыть руки врачу».

📌Пишите в комментариях — уходили ли вы когда-нибудь из IT в другие области?

Наш директор департамента разработки Алексей Шуксто пишет на Scala и Java. И периодически он выступает на конференциях с докладами на тему этих языков. Или пишет про них статьи.

Оставили ссылки на материалы ниже — кто интересуется Java и Scala, советуем!

📣 В конце поста вы найдёте актуальные вакансии к нам в разработку — откликайтесь, и будете работать с Алексеем!

🔹Эффект трамплина. WTF?! Запись митапа на YouTube и Rutube, где Алексей рассказал про эффекты и трамплины в Scala.
🔹Зачем в Scala трамплины и как их использовать? Та же тема, но под другим углом. Читайте подробную статью на Хабре.
🔹Жизнь и смерть и роботы управление ресурсами в Scala. Большая статья про особенности управления жизненными циклами объектов в Scala и Java разных версий. Она тоже ждёт вас на Хабре.
🟢Текст написан по мотивам выступления Алексея на конференции JVM Day. Посмотреть запись можно вот тут.

Вакансии в департамент разработки «Криптонита»
🔹Руководитель направления Scala-разработки
🔹Scala Team Lead
🔹Scala Developer / Senior Scala Developer
🔹Tech Lead Data Engineer
🔹Senior Data Engineer
🔹Data Engineer
🔹Junior Data Engineer
🔹Python Team Lead (Backend)
🔹Rust Developer (middle)
🔹С++ разработчик (Middle+, Senior)
🔹Разработчик C++

Другие вакансии смотрите на нашем карьерном сайте

📌И давайте поставим этому посту побольше реакций — тогда мы уговорим Алексея дать нам интервью и рассказать, как быстро стать директором😄

⚡️Мы нашли формулу счастья! Пишите ваши ответы в комментариях! #задачки

Пусть x и k — простые числа, каждое из которых меньше счастливого числа. Тогда для полного счастья на целый год нужно решить уравнение: x^4 * k^2 = 2025.

Камень преткновения в машинном обучении — это конфиденциальность данных.

На встрече экспертного сообщества по доверенному ИИ, которую провёл «Криптонит», обсуждали тему конфиденциальности данных во время обучения моделей.

Директор продукта компании Data Sapience Павел Снурницын предложил, как можно решить этот вопрос.

💬 Прочитать полный обзор заседания экспертного клуба можно у нас на Хабре
📣 Посмотреть видеозапись дискуссии можно на Rutube или VK видео

🟢С одной стороны, чем меньше реальных данных доступно модели на этапе обучения, тем хуже она потом работает на этапе применения. В итоге бренды упускают потенциальную выгоду от объединения своих данных друг с другом.

🔴С другой стороны, у компаний есть данные, которые дают ей конкурентное преимущество. И «кормить» ими искусственный интеллект небезопасно.

Так что же делать? Использовать продвинутые методы конфиденциальной аналитики. 

🟩Например, в концепции федеративного обучения происходит разделение процесса обучения модели. У каждого владельца данных локально обучается фрагмент модели. Затем эти фрагменты агрегируются, происходит усреднение весов и формирование глобальной модели.

Ещё один инновационный подход — использовать синтетические данные, которые сохраняют структурные связи. На стороне владельца данных обучается модель, которая запоминает зависимости реальных данных, а затем генерирует синтетический датасет. Дальнейшие этапы обучения уже происходят на нём без доступа к реальным данным.

Также есть «безопасные криптоанклавы» — это защищённые на аппаратном уровне области памяти и регистры процессора.

🟥Такой подход кажется максимально надёжным, но с ним встаёт вопрос доверия зарубежному производителю и необходимость разрабатывать собственные аппаратные решения такого типа. #доверенныйИИ

Пост-навигация нашей рубрики #языки_программирования

🔘Собрали все материалы от экспертов «Криптонита» про разные языки в одном посте — читайте только то, что интересно именно вам!

Java
Особенности языка
Где используется язык?
Плюсы и минусы языка
Полезные книги про Java
Советы начинающим на Java

JavaScript
Особенности языка
Где используется язык?
Плюсы и минусы языка
Pet-проекты на JavaScript

Python
Особенности языка
Где используется язык?
Плюсы и минусы языка
Комьюнити

C++
Особенности языка
Где используется язык?
Минусы языка (плюсы есть в посте «Особенности»)
Обучение этому языку

Golang
Особенности языка
Где используется язык?
Плюсы языка
Минусы языка
Обучение этому языку
Pet-проекты на Golang

Scala
Особенности языка
Где используется язык?
Плюсы и минусы языка

Rust
Особенности языка
Где используется язык?
Плюсы и минусы языка

Spark (фреймворк)
Особенности языка
Где используется язык?
Плюсы языка
Минусы языка
Обучение

💫 Альтаир — звезда, озарившая путь айтишников. Рассказываем про компьютер, который вдохновил на гениальные идеи. Не зря же он назван в честь самой яркой звезды в созвездии Орла! #история_математики

Истории успешных компаний часто начинаются с того, что какое-то событие наталкивает их будущих основателей на революционную идею. Для Стива Возняка, Пола Алена, Билла Гейтса и ряда других мэтров ИТ-индустрии таким событием стало появление компьютера Altair 8800.

🔹В семидесятых годах XX века сформировалось большое сообщество радиолюбителей. Его основой были студенты технических вузов, музыканты и увлекающиеся электроникой люди всех возрастов. Многие из них сталкивались с необходимостью обработки данных и ждали своей очереди к мейнфрейму, мечтая когда-нибудь заполучить собственный компьютер.

❗️Воплотить мечты помогла компания MITS, которая в канун Рождества 1974 года представила Altair 8800, ставший одним из первых коммерчески успешных ПК. Он выпускался в виде набора для самостоятельной сборки от $397, из которых $360 была стоимость процессора.

Довольно низкая цена, не так ли? Это потому, что в состав набора входили только компоненты вычислительного блока на базе 8-битного процессора Intel 8080 со скромным объём ОЗУ — всего 256 байт.

🟢Зато сам процессор поддерживал до 64 КБ и впервые адресовал её как единый массив без разделения на области для программ и данных. Поэтому возможность расширения памяти у Altair 8800 имелась.

❗️Ни монитора, ни клавиатуры в наборе не было, но их можно было подключить через соответствующие разъёмы. Часто вместо монитора использовался телевизор с перепаянным входом, а клавиатуры даже изготавливали самостоятельно.

До подключения внешних устройств Altair 8800 мог использоваться на манер первых ЭВМ. Все данные вводились в двоичной форме посредством переключателей на передней панели, а результат вычисления отображался на ней же с помощью светодиодов.

Изначально в MITS рассчитывали продать десяток-другой наборов Altair 8800. Но после публикации статьи о нём в журнале Popular Electronics и подписания контракта с сетью магазинов Radio Shack уже в первый месяц было продано свыше тысячи компьютеров.

Между компанией и клиентом существуют вложенные и скрытые сервисы: платёжные системы, операторы рекламы, сервисы видеоконференций и чат-боты. Бизнес-партнерства или надежный периметр защиты — что актуальнее?

📍Вы сможете узнать об этом 24 октября на конференции «Сохранить всё: безопасность информации» в конгресс-центре SOLUXE Hall!

📣 Там выступит Павел Боглай, руководитель отдела информационной безопасности компании «Криптонит». Он расскажет, как создать периметр защиты, чтобы партнёрское взаимодействие работало чётко и безопасно.

❗️ ️Павел предлагает делить взаимодействие с партнёрами на долгосрочные и краткосрочные — и исходя из этого применять меры безопасности.

Больше информации можно узнать на конференции «Сохранить всё: безопасность информации» в секции «Безопасность без периметра — как смежные сервисы размыли границы бизнеса».

Регистрация по ссылке

Бинго по soft-skills
🟩усидчивость
🟩аналитический ум
🟩терпеливость
🟩внимательность

🔘Если собрали все 4 пункта — вы могли бы стать инженером по машинному обучению!

Что ещё нужно для специалиста по ML, смотрите в нашем интервью с Георгием Поляковым, заместителем руководителя нашей лаборатории искусственного интеллекта.
🟢YouTube
🟢Rutube
🟢VK видео

А что бы вы добавили к этому списку?

Хайп среди технологий или о чём говорили эксперты на встрече экспертного сообщества, которую, организовал «Криптонит». Ниже — интересные моменты выступления Петра Владимировича Ганелина, советника по стратегии АНО «Национальный технологический центр цифровой криптографии».

💬 Прочитать полный обзор заседания экспертного клуба можно у нас на Хабре
📣 Посмотреть видеозапись дискуссии можно на Rutube или VK видео

🔴Искусственный интеллект начинают использовать повсеместно, и это порождает риски. Например, чем больше мы полагаемся на искусственный интеллект, тем быстрее деградирует наш естественный. Люди перекладывают на ИИ всё больше задач, а сами теряют соответствующие навыки.

❗️Пока мы можем хотя бы набрать поисковый запрос, а вот подрастающее нам на смену поколение уже считает это анахронизмом и предпочитает голосовое общение с «умной колонкой» или смартфоном.

Сильная зависимость от ИИ порождает ещё один риск — перекладывание ответственности. Всё чаще возникает соблазн сказать: «это не я, а компьютер виноват», особенно когда из-за ошибки возможны правовые последствия. Это не я нарушил ПДД, а мой автопилот. Это не я написал кривой код, а MS Copilot…

❗️Важно понимать, что ИИ — всего лишь инструмент, пускай и весьма продвинутый.

🔵В августе аналитики Gartner представили так называемую ежегодную кривую хайпа, на которой среди более двух тысяч технологий выделили 25 прорывных. Они группируются в 4 блока:
🔹автономный искусственный интеллект;
🔹автоматизация труда разработчиков (написание программного кода с помощью ИИ);
🔹технологии, меняющие пользовательский опыт за счёт моделей машинного обучения;
🔹ИИ-технологии, прямо влияющие на безопасность и приватность.

Сейчас в России можно выделить несколько крупных центров, занимающихся вопросами искусственного интеллекта в привязке к отраслевым задачам. У каждого из них свои взгляды на то, как нужно развивать технологии машинного обучения. В таком децентрализованном ландшафте сложно обеспечивать контроль качества и безопасности используемых решений. #доверенныйИИ

🧠Продолжаем погружаться в мир нейросетей вместе с коллегами из лаборатории искусственного интеллекта «Криптонита».

Сегодня разбираемся, что такое мультиагентность LLM (large language model или большие языковые модели) или коллективный искусственный разум. #нейрословарь

Один человек не может быть экспертом во всех областях, поэтому для решения сложных задач необходима команда специалистов. Этот же принцип применим и в сфере ИИ, где большие языковые модели объединяются в мультиагентные LLM. Каждый агент в них выполняет свою уникальную роль. Как же это работает?

🟢Пользователь ставит высокоуровневую задачу, которая разделятся системой на несколько подзадач. Затем подзадачи распределяются между несколькими агентами LLM согласно их специализации. Чтобы из-за разделения ролей не выпадал общий контекст исходной задачи и важные детали, в процессе работы агенты обмениваются решениями между собой.

Существуют различные варианты организации их взаимодействия: централизованная, децентрализованная и иерархическая.
🔹В централизованной системе все агенты взаимодействуют через центральный узел, который координирует их работу.
🔹В децентрализованной системе агенты обмениваются информацией напрямую друг с другом, что повышает гибкость, но усложняет координацию.
🔹Иерархическая система использует несколько уровней агентов, где верхние уровни управляют нижними, обеспечивая баланс между централизованным и децентрализованным подходами.

Методы профилирования агентов также разнообразны.
🟩Детерминированный подход предполагает фиксированные роли для каждого агента, основанный на данных подход использует исторические данные для адаптации ролей.
🟩Генеративный подход предполагает использование отдельной LLM для создания расширенных промптов на основе базовых запросов пользователя. Например, генеративная нейросеть может автоматически формировать детализированные задачи для агентов, улучшая их специализацию и эффективность.

🔴У мультиагентности есть и обратная сторона: высокое потребление ресурсов, сложность координации агентов, риск несогласованности результатов и увеличенная сложность отладки.

Однако именно мультиагентные LLM способны решать сложные задачи, обеспечивая гибкость и масштабируемость системы. Преимущества мультиагентных LLM перевешивают их недостатки и делают «коллективный искусственный разум» перспективным направлением.

Вот и пролетел первый месяц осени — хотя сентябрь изо всех сил мимикрировал под лето! 😃

🎅— давайте уже Новый год!

Есть ли технологии, которые могут изменить мир аналогично большим данным и искусственному интеллекту? Рассказывает наш заместитель руководителя лаборатории искусственного интеллекта Георгий Поляков. Небольшой спойлер: «вжуха» не будет. #мнение_экспертов

💬 Сейчас есть много областей, где машинное обучение ещё не произошло. Например, производство новых лекарств или поиск новых материалов ещё не использует нейронные сети, хотя есть научные статьи, которые говорят, что это возможно, и здесь тоже можно добиться интересных результатов. Думаю, подобное массовое внедрение реально изменит мир.

❗️Вообще рост нейронных сетей возможен благодаря возросшим вычислительным ресурсам, которые появились с развитием графических процессоров. Мир ждёт чего-то подобного после появления достаточно больших квантовых вычислителей.

Изменили ли Big Data и искусственный интеллект мир вокруг? Думаю, да. Я не думаю, что в какой-то момент будет некий «вжух» и всё сразу станет иначе. Одни профессии постепенно станут менее востребованными, другие — сильно изменятся, возникнут новые области народного хозяйства.

🔵Например, искусство — это область, которую уже изменил искусственный интеллект. С помощью нейронных сетей сегодня можно создавать изображения и видеоряды по текстовому описанию, добавлять в изображения что-то новое или изменять существующие. Можно создавать новую музыку или адаптировать старую к новым идеям.

❗️Думаю, сильно изменится порог входа в профессиональное искусство. Уже стало проще воплощать идеи в жизнь, и станет ещё проще.

Новая, важная и интересная область — это концепция доверенного искусственного интеллекта. Согласно ей решения в сфере искусственного интеллекта должны быть разработаны таким образом, чтобы обеспечивать надёжность, безопасность, эффективность и продуктивность.

📌Например, нельзя использовать интеллектуальные системы в медицине, если мы не можем гарантировать, что эти решения не нанесут людям вреда. В связи с этим возникают сложные с научной точки зрения вопросы, как сделать ml-решения комплексно безопасными.

Пятница? Значит, пришло время наших зубодробительных задач😄 Ждём ваши ответы в комментариях!

В некотором алгоритме двухфакторной аутентификации высылается четырёхзначный код и даётся пять попыток ввести его.

После исчерпания пяти попыток присланный ранее код считается недействительным и высылается новый. На него снова даётся пять попыток и так далее.

Какова вероятность угадать 4-значный код случайно за пять попыток? #задачки

«У искусственного интеллекта нет самосознания, а восстание машин остаётся уделом фантастов...»

Продолжаем рассказывать про выступления на нашей встрече экспертного сообщества, где участники обсудили, стоит ли доверять ИИ. На этот раз разбираем тезисы Андрея Петровича Коваленко, вице-президента Академии криптографии РФ.

💬 Прочитать полный обзор заседания экспертного клуба можно у нас на Хабре
📣 Посмотреть видеозапись дискуссии можно на Rutube или VK видео

🔹В технологиях ИИ нет никакой магии. Модели машинного обучения — это математические функции. Они выполняют аппроксимацию требуемой функции по таблице её значений, построенной на основе заданного обучающего набора наблюдений. У ИИ нет самосознания, а восстание машин остаётся уделом фантастов.

Проблема в другом. Существуют специфические для ИИ угрозы:
🔹отравление данных — обучение модели нежелательному поведению;
🔹атака инверсии модели — несанкционированный доступ к обучающим данным;
🔹атака градиентного спуска (то есть введение модели в заблуждение) и подмена модели.

Когда оценивают надёжность систем ИИ, выделяют факторы доверия:
🟦теоретическое обоснование моделей ML;
🟦доказанную эффективность алгоритмов решения оптимизационных задач;
🟦доверенный датасет — проверенный набор обучающих данных достаточного объёма;
🟦доверенное ПО и надёжные аппаратные платформы.

📌Чтобы обезопасить использование ИИ прямо сейчас, нужно не доверять «чёрным ящикам», исследовать свойства математических функций, реализуемых моделями ML и разрабатывать статистические модели, аналогичные моделям ML. Кстати, без статистических проверок функциональная безопасность устройств с ИИ не будет сертифицирована.