Как создать музыкальное видео с ИИ

Чтобы создать музыкальное видео с ИИ, выберите музыкальный фрагмент, подготовьте референсы и опишите действие и камеру. Создайте короткий клип и проверьте результат. Здесь разобран первый опыт и монтаж клипов в более длинное видео.

LumiYingОбновлено

Первый музыкальный клип за 7 шагов

Нужны MP3 или WAV, хотя бы одно изображение и описание сцены. Начните с десяти секунд и одного ясного музыкального момента.

  1. Шаг 01 Выберите и экспортируйте фрагмент

    Отметьте хук, вступление вокала или инструментальную фразу с понятными началом и концом. Например, экспортируйте 00:32–00:42 отдельным десятисекундным MP3 или WAV. Обрежьте заранее: в инструменте нет аудиотаймлайна. Соблюдайте пределы модели: 2–15 или 2–30 секунд и до 15 МБ.

  2. Шаг 02 Подготовьте согласованные референсы

    Начните с ясного изображения артиста или сцены. Дополнительные изображения нужны для конкретной роли: внешность, место или свет. Загрузите 1–8 JPEG, PNG или WebP. Избегайте противоречащих лиц, костюмов и стилей. Объясните в запросе роль изображения 1, изображения 2 и остальных.

  3. Шаг 03 Превратите музыку в описание кадра

    Назовите героя, действие, камеру и атмосферу. Вместо просто эпичного видео опишите два спокойных шага на крыше и медленный боковой проезд камеры в тёплом дневном свете. Укажите детали, которые нужно сохранить. Для первого опыта достаточно одного действия и одного движения камеры; у каждой склейки должна быть цель.

  4. Шаг 04 Выберите модель, длительность и пропорции

    Откройте генератор и выберите модель с аудиовходом. Проверьте ограничения, загрузите музыку и изображения, вставьте запрос в описание сцены. Для десяти секунд музыки выберите десять секунд результата. Используйте 16:9 для горизонтального или 9:16 для вертикального видео и подходящие референсы. Выход — 720p; до запуска проверьте кредиты.

  5. Шаг 05 Создайте версию и проверьте со звуком

    Посмотрите начало, середину и конец: узнаваемость героя, ясность движения и пригодность финального кадра. Отдельно послушайте изменения вокала, тайминга и посторонние звуки. Аудио направляет модель; точная сохранность записи и склейки на каждом ударе не гарантируются.

  6. Шаг 06 Исправляйте по одной проблеме

    Повторное редактирование возвращает исходные аудио, картинки, запрос и настройки. При суетливом движении уберите действия или склейки. Если меняется герой, сократите конфликтующие референсы и опишите сохраняемые черты. Сначала сохраните удачный вариант. Повторное редактирование заполняет форму; новая генерация снова расходует кредиты.

  7. Шаг 07 Скачайте клип или соберите длинное видео

    Скачайте полезную версию. Для целой песни наметьте фрагменты и визуальные события и создайте нужные клипы. В редакторе положите оригинальную песню на аудиодорожку, расположите видео выше и подрежьте их по музыкальным фразам. Сохраняйте пропорции и цвет. Финальная сборка и текст песни добавляются в редакторе.

Подготовьте материалы и настройки

Решите это до генерации. Дополнительные картинки и склейки полезны, когда делают задачу понятнее.

Что загружать

Музыка
Чистый MP3/WAV, например десять секунд хука, в пределах длительности и 15 МБ.
Экспортируйте нужную фразу: целая песня не задаёт конкретный участок.
Главный референс
Чёткий портрет, артист или сцена в JPEG, PNG либо WebP.
Изображение должно уже подходить к нужному герою и композиции.
Дополнительные изображения
Не более 8 всего; объясните роли и соблюдайте размеры файлов.
Костюм, место или свет дополняют задачу. Разные артисты создают неоднозначность.
Описание сцены
Герой + видимое действие + камера + атмосфера + сохраняемые детали.
Картинка задаёт внешний вид, текст объясняет изменение во времени.

Настройки первой попытки

Длительность
Десять секунд результата и такой же аудиофрагмент.
Короткую фразу проще оценить до следующих затрат кредитов.
Пропорции
16:9 горизонтально или 9:16 вертикально; соответствующая композиция референсов.
Широкая сцена не становится автоматически хорошим вертикальным кадром.
Камера и склейки
Одно медленное приближение, боковое движение или облёт.
Простая сцена помогает найти ошибку; полезную склейку добавьте позднее.
Звук и экспорт
Проверьте созданный звук и сохраните оригинал для монтажа.
Если запись должна остаться неизменной, используйте оригинальную дорожку в редакторе.

Два готовых задания для загрузки

Пресеты загружают изображение, запрос, длительность и пропорции. Добавьте свой подходящий аудиофрагмент и проверьте стоимость.

10-секундный тизер на крыше

Выступление на крыше — Референсное изображение
10-секундный тизер на крыше

Используй изображение 1 для артиста, одежды и крыши. Создай десятисекундное выступление в тёплом дневном свете. Артист делает два спокойных шага, камера медленно движется вбок и заканчивает устойчивым средним планом. Следуй энергии музыки. Сохрани лицо и одежду; без постороннего диалога и текста.

Подготовьте десять секунд хука и выберите 16:9. Проверьте лицо и одежду по всему клипу и послушайте музыку. Если действие торопливое, оставьте камеру и уберите шаги.

Загрузить это задание

15-секундное джазовое выступление

Ретро-джаз-клуб — Референсное изображение
15-секундное джазовое выступление

Используй изображение 1 для двух танцоров, одежды и джаз-клуба. Начни общим планом, приблизься, кратко покажи шаги крупнее и вернись к ясному плану обоих. Тёплый сценический свет и движения по джазовой фразе. Сохрани танцоров; без субтитров и постороннего диалога.

Подготовьте пятнадцать секунд в 16:9. При избытке склеек сначала попробуйте один общий план. Проверьте узнаваемость обоих и связь деталей ног со сценой. Тайминг оценивайте при просмотре.

Загрузить это задание

Посмотрите примеры и проследите за камерой

Сравните публичные демо по выступлению, сменам кадров и атмосфере. Загрузите изображение и запрос, чтобы попробовать направление со своей музыкой.

Из гримёрной на сцену

Непрерывное движение камеры следует за певицей на сцену. Демо: ByteDance. Проследите непрерывный путь из гримёрной на сцену. Для короткого опыта выберите только часть пути.

Референсное изображение
Публичное демо
Предлагаемая режиссура

Следуй за певицей из гримёрной на сцену плавным непрерывным проездом. Сохраняй её внешность, ориентируй движение на энергию загруженной музыки.

Использовать эту идею

Ретро-джаз-клуб

Танец, детали и тёплый свет создают атмосферу выступления. Демо: ByteDance. Сравните общие планы и детали шагов. Каждой склейке нужна ясная цель.

Референсное изображение
Публичное демо
Предлагаемая режиссура

Создай танец в ретро-джаз-клубе. Сохраняй внешность двух танцоров, чередуй общий план с короткой деталью шагов и следуй живым фразам музыки.

Использовать эту идею

Выступление на крыше

Артист остаётся в центре кадра на фоне крыши. Демо: Freebeat. Посмотрите, остаются ли артист и место понятными в движении. Простой фон облегчает поиск изменений героя.

Референсное изображение
Публичное демо
Предлагаемая режиссура

Оставь артиста на крыше. Используй расслабленные ритмичные движения, медленный боковой проезд камеры и дневной свет в настроении трека.

Использовать эту идею

Что исправить, если первый клип не подходит

Определите проблему до повторной генерации. Сохраняйте удачные входные данные и меняйте одну причину за раз.

Меняется лицо или костюм
Конфликтующие референсы либо избыток действий.
Выберите ясную главную картинку, укажите сохраняемые черты и упростите движение. Сравните начало, середину и конец.
Музыка или голос отличаются
Модель генерирует по аудиореференсу.
Сохраните полезные визуальные кадры и используйте оригинальную запись в финальном монтаже.
Клип торопливый
Слишком много действий и склеек для его длины.
Уберите одно действие или склейку, оставьте ясный момент и устойчивый финал.
Склейка не совпадает с фразой
Запрос интерпретируется без точного таймлайна.
Упростите переход, а точное положение клипа выставьте в редакторе относительно оригинала.
Загрузка или генерация заблокирована
Превышены длительность, размер, число картинок или доступные кредиты.
Прочитайте ошибку поля, оставьте до 8 изображений и допустимый фрагмент; проверьте актуальную цену.
Частые вопросы

Частые вопросы

Достаточно одной песни?

Этот процесс требует также хотя бы одного изображения и описания. Для выступления возьмите артиста, для инструментала — пейзаж и объясните движение.

Как сделать видео на всю песню?

Спланируйте фрагменты и визуальные события, создайте короткие клипы и соберите их под оригинальную песню в редакторе. Генератор не делит и не соединяет целую песню автоматически.

Нужно восемь изображений?

Нет. Начните с одного сильного референса. Добавляйте картинки только для героя, места или стиля, всего до восьми, объясняя роли.

Можно сохранить оригинальную запись точно?

Аудиореференс может измениться в результате. Для сохранения записи используйте оригинальную песню как финальную дорожку и выровняйте клипы в редакторе.

Как добавить слова и точные склейки в бит?

Сначала скачайте видео, затем добавьте синхронизированный текст и склейки в редакторе. В генераторе нет редактора текста песни и шкалы битов.

Что делает загрузка примера?

Заполняет изображение и запрос; готовые задания также задают длительность и пропорции. Музыку добавляете вы. Загрузка сама не запускает платную генерацию.

Добавьте сцену к следующей музыкальной фразе

Нужны MP3 или WAV, хотя бы одно изображение и описание сцены. Начните с десяти секунд и одного ясного музыкального момента.