Просто про нейросети

Если ты уже разбираешься, то эта глава вообще то же самое для тебя, как смотреть инструкцию по сборке мебели из IKEA: вроде все понятно, но зачем, если ты уже собрал шкаф, не читая мануал?

Дальше будет простой пример создания нейросети для классификации изображений.

1. Выбор задачи

Выбираем простую задачу: классификация изображений. Например, мы можем создать нейросеть, которая будет определять, изображен ли на картинке кот или собака. Важно выбрать, какую задачу будет выполнять нейросеть. Именно задача определяет, какие данные и какую архитектуру модели нужно использовать.

2. Сбор данных

Для обучения нейросети нам понадобятся данные. В данном случае это будут изображения котов и собак. Можем использовать готовые наборы данных, такие как CIFAR-10 или MNIST, или собрать свои собственные изображения. Качество данных также играет ключевую роль. Если наберем плохих искаженных картинок с какими-нибудь водяными знаками или вообще битые файлы, исход будет неудовлетворительным.

3. Используем платформы с низким порогом входа

Для создания нейросети без глубоких технических знаний можно использовать платформы, такие как Google Colab или Kaggle. Эти платформы предоставляют доступ к мощным вычислительным ресурсам и предустановленным библиотекам, таким как TensorFlow и PyTorch.

4. Код модели как пример

Для классификации изображений (пример) используем сверточную нейросеть (CNN):

– Гиперпараметры: В коде используется оптимизатор adam и функция потерь categorical_crossentropy, но мы тут вам не объясняем, почему именно эти параметры выбраны. Можно было бы добавить краткое объяснение различных оптимизаторов и функций потерь, а также как выбрать подходящие гиперпараметры. Но давайте-ка сами. Тут уже будут слишком сложные технические нюансы для вас, обычных пользователей.

– Размер данных: В примере кода мы тут также не упоминаем, как выбрать размер обучающей и тестовой выборки. Можно было бы добавить рекомендации по разделению данных и важности сбалансированных выборок, но считаем, что это тут тоже излишне. Особенно в начале самой книги. У нас тут всего лишь образ – чтобы вы могли представить, как это все в общем плане выглядит.

Для более сложных задач может также потребоваться более сложная архитектура или дополнительные библиотеки.

5. Обучение модели

После создания модели ее нужно обучить на собранных данных. Это можно сделать прямо в Google Colab или Kaggle, используя их вычислительные ресурсы. Обучение может занять некоторое время в зависимости от размера данных и сложности модели.

В примере у нас рассматривается только классификация изображений, но нейросети могут использоваться для решения различных задач, таких как обработка естественного языка, временные ряды, рекомендации и т. д.

6. Тестирование и оценка модели

После обучения модель нужно протестировать на тестовых данных, чтобы оценить ее точность. Если результаты неудовлетворительны, можно попробовать изменить архитектуру модели или увеличить количество эпох обучения.

7. Развертывание модели

После того, как модель хорошенько у нас потренировалась и успешно прошла нашу проверку, разрешаем ей пуститься в работу. Для этого подойдут специальные сервисы вроде Heroku или AWS, которые помогают установить и управлять моделью на практике.

Поэтапный план действий:

1. Выбор задачи: Определяем задачу, которую хотим решить с помощью нейросети.

2. Сбор данных: Собираем или загружаем данные, необходимые для обучения.

3. Использование платформы: Выбираем платформу с низким порогом входа, такую как Google Colab или Kaggle.

4. Используем готовые примеры кода: или создаем свою модель с помощью библиотек, таких как TensorFlow или PyTorch.

5. Обучение модели: Обучаем модель на собранных данных.

6. Тестирование и оценка модели: Проверяем точность модели на тестовых данных.

7. Развертывание модели: Развернем модель в производственной среде с помощью платформ, таких как Heroku или AWS.

Что еще можно предусмотреть при создании собственной нейросети?

1) Предобработка данных. Может включать нормализацию, масштабирование, удаление шумов и т. д. Предобработка данных очень важна, на самом деле, и ее нельзя обходить стороной, если есть на нее время и ресурсы.

2) Оптимизация модели. Регуляризация, дропаут, нормализация по батчам и т. д.

3) Интерпретация модели. Поизучайте, как интерпретировать результаты модели и как оценить ее производительность, если собираетесь делать собственную нейросеть. Погуглите на досуге описание метрик оценки модели и их интерпретации.

Примерно так можно и самому сделать свою нейросеть для определенных задач.

Сколько денег тратят корпорации на создание, обучение и ведение своих собственных нейросетей?

Траты корпораций на создание, обучение и ведение собственных нейросетей могут значительно варьироваться в зависимости от множества факторов, таких как:

1. Размеры и сложность моделей. Большие и продвинутые модели типа GPT-4 или DALL-E нуждаются в мощных компьютерах и много времени для тренировки.

Например, чтобы натренировать GPT-3, понадобилось примерно столько вычислений, будто бы одновременно работали 1000 специальных видеокарт целый месяц. Создание таких моделей требует больших денег на технику и электричество.

2. Количество данных. Чем больше данных используют для обучения, тем сильнее нужны мощные компьютеры и хранилища. Например, для тренировки GPT-3 было использовано почти 570 гигабайт текста, что требует сильных серверов и вместительных дисков.

3. Инфраструктура. Выбор между арендой мощностей в облаке (например, Amazon Web Services, Google Cloud или Microsoft Azure) или созданием своего собственного центра обработки данных тоже сильно влияет на расходы. Хотя облака предлагают огромные мощности, их аренда стоит немало. Если строить собственный центр, то придется вложить крупную сумму сразу и постоянно тратить деньги на поддержание его работы.

4. Человеческий труд. Сюда входят зарплаты экспертов по искусственному интеллекту, аналитиков данных и других нужных работников. Люди, занимающиеся разработкой нейросетей, получают высокую зарплату. К примеру, в Америке специалисты по машинному обучению зарабатывают от 5 тысяч до 20 тысяч долларов ежемесячно, но это зависит от опыта человека и места проживания.

5. Время обучения. Обучение больших моделей может занимать недели или даже месяцы. Обучение больших моделей может занимать недели или даже месяцы. Например, обучение GPT-3 заняло несколько месяцев.

Примерные затраты:

1. Google: В 2023 году Google потратила около $26 миллиардов на исследования и разработки, включая работу над нейросетями. Google тратит значительные суммы на исследования и разработки. Однако точная сумма, потраченная на нейросети, скорее всего недоступна на самом деле публике, так как компании не всегда с радостью раскрывает эту информацию для изучения ее своим конкурентам.

2. Microsoft: В 2023 году Microsoft инвестировала около $20 миллиардов в исследования и разработки, включая работу над нейросетями. Тоже точная сумма будет вряд ли нам доступна. Можем только лишь предполагать.

3. Amazon: В 2023 году Amazon потратила около $42 миллиардов на исследования и разработки, включая работу над нейросетями. Огромные деньжища! Кто его знает, на что они вообще их там тратили!

Эти цифры включают не только затраты на нейросети, но и на другие исследования и разработки. Точные цифры по затратам на нейросети могут быть недоступны, так как компании не всегда раскрывают эту информацию. Все это лишь для того, чтобы мы с вами могли представить, какие траты для подобной инфраструктуры нужны компаниям и какую прибыль они собираются от этих ресурсов получить при использовании этих невероятно дорогущих мощностей!

Список самых популярных, как кажется автору, нейросетей на весну 2025 года:

– ChatGPT – всем известный чат-бот, который выглядит как текстовый диалог с реальным человеком;

– Gemini – работает с текстом, видео, изображениями, звуком;

– YandexGPT – может вести диалоги, писать простой код, создавать текстовый контент, переводить тексты;

– Midjourney – создает изображения из текстовых описаний;

– Stable Diffusion – позволяет генерировать изображения на основе текстового запроса, а также дорисовывать наброски и редактировать исходные картинки;

– DALL-E 3 – модель генерации изображений по текстовому описанию;

– Шедеврум – умеет генерировать текст, изображения и видео на основе запросов пользователей. Очень похожа на соцсеть, где пользователи могут общаться и обсуждать свои генерации;

– Kandinsky 3.0 – способна создавать реалистичные изображения и видео на русском языке;

– Suno – генеративная модель машинного обучения, с помощью которой можно создавать музыку, не владея нотной грамотой и игрой на музыкальных инструментах;

– Copilot – умный помощник от Microsoft, который может выполнять различные задачи;

– Manus AI – универсальный агент искусственного интеллекта, который спроектирован так, чтобы быть полностью автономным, что означает, что он может превращать человеческие мысли в действия, планируя и выполняя сложные задачи реального мира самостоятельно, без постоянного контроля человека;

– Flux – нейросеть для генерации картинок по текстовому запросу. Высокая фотореалистичность;

– Pika – платформа для создания видео на основе искусственного интеллекта, которая позволяет пользователям генерировать и редактировать видео с помощью текстовых подсказок, изображений и продвинутых функций;

– Kling – платформа генерации видео с использованием искусственного интеллекта Kuaishou;

– Claude – чат-бот на основе искусственного интеллекта, созданный компанией Anthropic;

– Luma – специализируется на создании высококачественных, реалистичных 3D-изображений, видео и игровых ресурсов;

– RunWay – позволяет генерировать и редактировать видео, фотографии и аудио;

– Hailuo – создает короткие видеоролики с нуля по текстовому запросу, оживляет картинки и делает дипфейки. Бонусом – генерирует и озвучивает тексты;

– DeepSeek – большая языковая модель с открытым исходным кодом. Аналогия Chatgpt от китайского разработчика;

– Qwen – целое семейство больших языковых моделей, разработанных Alibaba;

– Perplexity – поисковая система и чат-бот на базе искусственного интеллекта;

– Hedra – пользователи могут начать либо с генерации аудио из текста, либо с загрузки собственного аудио. Затем они создают или загружают изображение персонажа, которое может быть фотографией, изображением, сгенерированным искусственным интеллектом, или текстово-графическим созданием. Искусственный интеллект Hedra затем анимирует персонажа, синхронизируя движения губ, выражения лица и движения тела с аудио;

– Gigachat – нейросетевая модель искусственного интеллекта, созданная Сбером в 2023 году. Он способен отвечать на вопросы, решать задачи, помогать с анализом текстов и математическими расчетами. GigaChat поддерживает работу с текстом и обладает дополнительными навыками, такими как генерация изображений и видео;

– leonardo.ai – позволяет создавать изображения, анимации, арт-объекты и текстуры;

– ideogram.ai – сервис для генерации изображений с использованием искусственного интеллекта. Он позволяет интегрировать текст визуально в составе изображений. Бомбические изображения, в которые можно сгенерировать отличный красивый текст (а не абракадабру, как обычно получается у нейросетей);

– Websim.ai – генерация веб-приложений на основе HTML, CSS и JavaScript. Тут мы можем с помощью обычного текста и своей обычной фантазии сделать полноценную компьютерную игру или свой целый сайт. Doom или тапалка хомяка совершенно без знания кода и программирования. С первого раза не получится что-то нормальное. Но с двадцатой попытки у вас начнет получаться;

– Codeium – набор инструментов на основе искусственного интеллекта для разработчиков. Он помогает писать код быстрее и эффективнее;

– Mistral – умеет искать информацию в интернете с указанием источников, аналогично ChatGPT от OpenAI. Также позволяет модифицировать, преобразовывать или редактировать контент, например, макеты веб-страниц и визуализации данных;

– Pixverse Ai – позволяет создавать видео из текста и изображений;

– Llama – распознает 30 языков, генерирует тексты и может управлять умным домом. Умеет генерировать изображения по запросу, обрабатывать фото, видео- и аудиоконтент;

– RedGPT – поиск популярных постов в указанном субреддите и генерация ответа на самый последний пост, который соответствует запросу. Генерация ответа, если в субреддите есть пост, соответствующий запросу. Если таких постов не найдено, RedGPT выходит без генерации ответа;

– Notebooklm – от Google, анализирует документы, сайты, YouTube-ролики и делает методички или необходимые выборки согласно этим данным. Но главная фича: можно сделать полноценный подкаст из всех этих файлов, где два ИИ голосом будут общаться между собой на основе ваших загруженных документов.

Зачем этот список вообще вам тут?

1. Удобство доступа. Открыли книгу и посмотрели, чего вам может помочь «здесь и сейчас».

2. Экономия времени. Вместо того, чтобы тратить время на поиски, вы можете сразу получить список популярных нейросетей с описаниями.

3. Новые возможности. Многие могут не знать обо всех существующих нейросетях и их возможностях. Такой список поможет открыть новые инструменты для творчества, работы или учебы.

Несколько книг про нейросети, которые автор читал сам и вдохновился их описанием:

1. «Распределенный искусственный интеллект» Душкина Романа Викторовича

Краткое о книге: поймете, как искусственный интеллект становится основой современной жизни – от крошечных роботов в медицине до космических компьютерных сетей. Вы изучите принципы построения и работы нейросетей, а также загляните в будущее: познакомитесь с квантовыми технологиями, системами искусственного интеллекта на блокчейне и возможностями объединения человеческого разума с компьютером.

2. «Искуственный интеллект и нейросети: практика применения в рекламе» В. А. Евстафьева, М. А. Тюкова

Кратко о книге: показывает на множестве примеров, как создавать тексты, картинки и рекламные материалы с помощью нейросетей, внедрять искусственный интеллект в образование, учить нейросети новым задачам и другим интересным вещам. Все подробно показано и наглядно пояснено иллюстрациями. Богато иллюстрированно, я даже бы сказал.

3. «Как учится машина» Яна Лекуна

Кратко о книге: автор книги – один из создателей метода глубокого обучения, используемого в искусственных нейронных сетях, работающих подобно человеческому мозгу. Автор честно и понятно рассказывает о своем научном подходе, объединяя компьютерные науки и исследования мозга, освещая возможные пути развития искусственного интеллекта, возникающие трудности и будущие возможности.

4. «Занимательная манга. Машинное обучение» Масахиро Араки

Кратко о книге: вместе с персонажами комикса читатели легко разберутся, что значит «регрессия» и как делить данные на группы, поймут, как правильно проверять точность моделей и как работают нейронные сети. В конце рассказано, как обучать модели без заранее известных правильных ответов. Эта книга подойдет начинающим специалистам по машинному обучению, знакомым с университетской математикой первого-второго курса.

Это все совсем не является рекламой! Исключительно опыт автора! Считаю важным правилом: если вам первые 25 страниц чтения книга не нравится – не читайте ее совсем! Вряд ли она вам понравится и дальше! Эти же книги я прочитал от корки до корки. А про нейросети и искуственный интеллект я ох как не мало книг прочитал.

Скажу кратко к завершению этой главы: книги – маст хэв к прочтению! В книгах и практике находится все таинство истинных знаний о нейросетях!

Помните об этом.