Magnopus dá vida à série Fallout da Amazon, com uma produção virtual desenvolvida com a Unreal Engine

Cortesia de Magnopus/Kilter Films/Amazon MGM Studios
13 de maio de 2024
Em ação por mais de uma década, a Magnopus é um estúdio criativo e de tecnologia pioneira em criar experiências únicas de entretenimento. 

Trabalhando com RV imersiva, experiências de RA, todos os aspectos da produção virtual (efeitos especiais abrangentes na câmera departamento de arte virtual e operações de volume de LED), a Magnopus, parceira de serviço da Unreal Engine, ganhou a confiança dos melhores cineastas e marcas para romper os limites da tecnologia a serviço da criação de conteúdos memoráveis. 

Recentemente, o estúdio trabalhou em conjunto com o Kilter Studios, de Jonathan Nolan e Lisa Joy, na produção virtual para o lançamento de Fallout, série de sucesso do Amazon Prime Video. Conversamos com AJ Sciutto, diretor de produção virtual da Magnopus, para discutir o processo técnico e criativo de dar vida a um mundo distópico usando efeitos especiais na câmera, a flexibilidade em tempo real possibilitada pela Unreal Engine, o trabalho de uma produção virtual em conjunto com a filmagem em película de 35 mm, e muito mais.
Quando a Unreal Engine se tornou uma ferramenta no arsenal da Magnopus?

Nós montamos ferramentas de produção virtual usando a Unreal desde 2018, antes do início das filmagens de Mandalorian. Junto à equipe da Epic, trabalhamos para fazer uma suíte de ferramentas do mais alto nível que possibilitasse que profissionais de áreas criativas entrassem em seus mundos virtuais e contassem histórias incríveis usando lentes virtuais. Os efeitos especiais na câmera são uma das ferramentas do nosso arsenal. Quando colocados em conjunto com a equipe espetacular de engenharia de software na Magnopus, o nDisplay e a Unreal Engine são os recursos mais poderosos possíveis para exibir imagens incríveis em painéis de LED.

Quando a Magnopus se envolveu em Fallout, e qual o papel que vocês tiveram na produção virtual da série?

Tivemos uma colaboração próxima com Jonathan Nolan e a equipe da Kilter Films num projeto de P&D em 2020, e outra vez no final de 2021, na 4ª temporada de Westworld. Em algum momento durante a produção de Westworld, começamos as conversas preliminares sobre Fallout. Na época, apenas o episódio piloto tinha sido escrito, e nosso envolvimento no projeto era basicamente o de um diretor de departamento criativo. 

Demos ideias criativas para reforçar a produção virtual em toda a série e trabalhamos com os cineastas para dividir os roteiros em cenas e ambientes que aproveitassem melhor os efeitos especiais na câmera. Nós conseguimos quatro ambientes: as cenas da fazenda e da porta do Refúgio 33, o refeitório no Refúgio 4 e a base da Nova República da Califórnia, dentro do Observatório Griffith. Além disso, tudo que acontecia num Vertibird tinha boa chance de ser usado em tomadas de processos de LED.
A partir daí, trabalhamos com Howard Cummings e a diretora de arte Laura Ballinger, para definir quais partes do set deveriam ser montadas fisicamente e quais deveriam passar por uma montagem virtual. Essas decisões tinham um impacto muito grande na iluminação e nos efeitos visuais, então usamos a arte conceitual e os roteiros visuais para unir os dois fundos e entender exatamente onde seriam feitas as transições entre o físico e o virtual.

Uma grande parte da decisão é descobrir onde o set prático termina e onde o virtual começa. Além disso, precisamos descobrir onde o mundo virtual 3D termina e onde a pintura fosca começa. Nossos profissionais de pintura fosca, Frank Capezzuto III e Rocco Gioffre, trouxeram designs que nos permitiram tirar o máximo de proveito do painel de LED em tomadas panorâmicas. Contando com o trabalho deles, conseguimos usar a abordagem do “proscênio coberto”, que ajuda muito na hora de filmar com LED.
Como foi o processo de montagem do volume de LED para Fallout?

Começamos dando suporte no projeto inicial de um volume de LED. Nossa intenção era projetar um set que desse aos cineastas os benefícios de iluminação de um volume curvo, com o acréscimo de flexibilidade de uma caminhada longa e diálogos feitos em seções retas de um painel plano. 

O formato de ferradura do nosso set ganhou fácil a disputa, e o resultado foi um painel de LED de 75’ de profundidade, 21’ de altura e quase 100’ de comprimento. Encontrar um set que pudesse abrigar um volume desse tamanho passou a ser o próximo desafio. Pouquíssimos sets estavam disponíveis na época, e foi aí que Jeffrey Soderberg e Chris Cox, do Manhattan Beach Studios (MBS), apareceram para fazer o trabalho. 

Eles trabalharam com a gente e o grupo no Fuse Technical Group, liderado por Mitch Lathrop e Koby Kobylko, para projetar e montar um volume específico, de acordo com a necessidade da produção. O resultado foi um set de LED modular e flexível com a tecnologia mais avançada possível que estava disponível no mercado, montada em Bethpage, Long Island.
Na parte do computação, a Fuse Technical Group fez um trabalho incrível, projetando a sala do servidor e a distribuição de vídeo/dados do set. Eles montaram uma sala de servidor personalizada em um contêiner de carga padrão em Los Angeles, e depois a enviaram para Nova York. 12 saídas de 4k para o painel de LED principal e outras saídas de 4K para vários painéis wild ficavam na sala do servidor, junto com outras seis estações de trabalho de operadores da central de controle, que estavam conectados às suas caixas via fibra. 

Usamos Roe BP2 v2s para os painéis de LED, Brompton Tessera SX40s para os processadores, Stype RedSpy para monitoramento de câmera e Stype Follower System para monitoramento de objeto. Nossa equipe de mecatrônica, chefiada por Fabian Flores, projetou e imprimiu em 3D os suportes de montagem para os sinalizadores de LED do Follower System para os painéis wild, para que agissem como superfícies de projeção dinâmicas na Unreal e pudessem ser movimentados e reconfigurados em tempo real.
Nossa equipe de engenharia, liderada por Lily Pitts, Guillermo Quesada e Ross Rosewarne, ficou encarregada da pós-construção do set, colocando todos os componentes de software em funcionamento junto com o hardware antes da primeira gravação. Depois que o hardware estava em ordem, configuramos um sistema de gerenciamento de conteúdo para fazer as atualizações do VAD dos membros da equipe remota e enviar imagens para o painel de LED. 

Usamos a Unreal e o nDisplay para renderizar cenas, e o LiveLink para coordenar os dados do RedSpy na engine em tempo real. Durante as tomadas, usamos o Gravador de Tomadas para captar os dados rastreados, e gravamos um software personalizado para transformar esses dados em USD, para facilitar a exportação para as equipes de efeitos visuais supervisionadas por Jay Worth e Andrea Knoll. 

Qual foi o maior desafio do trabalho nessa série?

O maior desafio foi gravar com película. Sem dúvida, a gravação em película adicionou uma estética bonita e única para a série, suavizando detalhes, acentuando a parte artística e criando uma separação entre as camadas do terreno. A série ficaria muito diferente com filmagem digital, então nunca tivemos dúvida se íamos gravar com película no volume, a grande questão seria como.
Como gravamos com película um ano antes, tínhamos experiência em trabalhar com as caixas de sincronização do Arricam e com o uso de genlock na câmera. Como não tínhamos um monitor digital de alta resolução na câmera, precisamos ser criativos e muito precisos com a verificação das imagens no painel de LED. 

Nossa solução foi aplicar a LUT da série à saída da câmera Sony Venice, usando-a como referência para ajustar a iluminação e alinhar as cores com uma combinação do OpenColorIO com ferramentas de gradação de cores da Unreal Engine. Medimos a temperatura de cor das cenas no volume de LED e a iluminação do set em primeiro plano com um espectrômetro de cor para cada mudança de iluminação, para garantir o alinhamento. 

Como a Unreal Engine ajudou na exploração virtual de Fallout?

Em Fallout, como nossos sets virtuais foram totalmente montados dentro da Unreal Engine, pudemos usar todas as ferramentas de produção virtual da Unreal durante o processo criativo, incluindo ferramentas de exploração virtual, que nos permitiram colocar os cineastas na RV, para eles fazerem as observações técnicas e até criarem um rascunho da ação. 

Graças às ferramentas, eles puderam colocar as câmeras e os personagens em localizações precisas, e até ajustar as lentes para as tomadas em tempo real. Conseguimos então guardar essa informação, que foi usada para criar um mapa de calor do ambiente. Dessa forma, foi possível identificar que áreas dos sets eram mais importantes para a história, e garantir que nossa atenção criativa estivesse focada ali, refinando a iluminação e acrescentando mais fidelidade visual. 

Saber disso também nos ajudou com a otimização de esforços durante o projeto. Como sabíamos as direções em que estávamos gravando, podíamos montar a cena de formas modulares que nos permitissem esconder partes do set que usavam exigiam muita computação, quando elas não estavam em frente à câmera.

A equipe de visualização, liderada por Kalan Ray e Katherine Harris, montou versões 3D em escala 1:1 de todos os sets na Unreal, inclusive os locais que foram concebidos apenas como instalações físicas. Isso significa que, quando queriam esboçar uma cena, os cineastas não ficavam limitados apenas aos ativos virtuais; eles podiam visualizar a cena completa e compor tomadas concretas com informações para todos os departamentos da série.

Conte um pouco sobre o seu fluxo de trabalho e como você deixou as opções criativas flexíveis e adaptáveis durante o processo, seja na pré-produção, no set ou na pós-produção.

A pré-produção ficou totalmente focada no planejamento e na visualização. Como os sets estavam destinados ao volume, a equipe de visualização tinha bastante trabalho a fazer. Enquanto a equipe criativa, liderada por Craig Barron, trabalhava com os efeitos visuais e com o departamento de arte para focar em como seriam as pegadas físicas e virtuais de um set em particular, a equipe de visualização já estava trabalhando nos aspectos da visualização técnica da série.

Para ter um bom entendimento do limite entre imagens virtuais e montagens no set, precisamos trabalhar com as dimensões reais do set. Então, montamos um modelo em escala real do depósito em Bethpage, Long Island, e colocamos nele as dimensões reais do painel de LED. Isso nos ajudou não só a planejar os aspectos criativos da série (quais ângulos e lentes estavam “filmando o painel”), mas também a identificar onde posicionar os locais estratégicos para a equipe de dublês, onde instalar a iluminação aérea, e até onde as mesas do operador da Unreal deveriam ficar. 

Isso também evitou problemas de formas inesperadas. Por exemplo, ao usar esse processo, descobrimos que as dimensões das portas físicas eram muito pequenas para que algumas partes do Vertibird pudessem passar! Todos ficaram satisfeitos em descobrir isso a tempo de achar uma solução.
Em relação ao trabalho de visualização criativa, nossos supervisores de produção virtual, Kathryn Brillhart e Kalan Ray, trabalharam com os diretores de cada episódio para visualizar o esboço de algumas cenas mais complexas. Nossa chefe de produção virtual, Kat Harris, preparou o esboço inicial e integrou os sistemas multiusuário para que os cineastas pudessem se integrar aos animadores e movimentarem as peças em tempo real. Também visualizamos o set de Filly dessa forma, mesmo que ele não tenha sido pensado para o volume, para ajudar a planejar a logística dos dias de filmagem mais complexos.

Trabalhamos com os diretores de episódios Wayne Yip, Clare Kilner e Fredrick E. O. Toye para esboçar segmentos da base da Nova República da Califórnia no Observatório Griffith e do refeitório do Refúgio 4, e obter um contexto espacial do que seria filmado. Maximizar a eficácia dos volumes de LED implicou em visualizar cenas que não visualizaríamos normalmente na pré-visualização, como cenas de diálogo, porque isso ajudou a garantir que colocaríamos os elementos fantásticos da história na tela. Lucy e Maximus não estão simplesmente comendo numa mesa de piquenique, mas num refúgio subterrâneo gigantesco abastecido com energia nuclear. As imagens devem dar suporte a esse conceito narrativo.

Durante os dias de produção no volume, nossos produtores de set, Billy Bonifeld e Devon Hubner, garantiram que trabalhássemos em colaboração próxima com todas as equipes no set. Quando estávamos configurando a iluminação DMX da Unreal para os mais de 150 skypanels Arri no set, Addison Herr, responsável pela tecnologia criativa, montou e integrou a saída de luz com o operador de placa dim na equipe do eletricista-chefe. 

Fizemos a articulação completa dos painéis de LED Wild para preencher lacunas no volume ao filmar em ângulos extremos. Fabian Flores, nosso engenheiro mecatrônico de produção virtual, e Julio Salcedo, nosso engenheiro de hardware de produção virtual, trabalharam com os maquinistas para entender como e onde movimentar o equipamento com segurança para todos que estivessem à volta. Também trabalhamos com as equipes de construção para garantir que o acrílico usado na cabine do Vertibird não criasse nenhuma distorção ou artefatos ao filmar na frente de conteúdos emissivos.

Trabalhamos bem de perto com os departamentos de efeitos visuais, arte e iluminação, para garantir que nossos ambientes tivessem a maior fidelidade possível. Depois de analisar o conteúdo no painel de LED com nossos artistas de VAD (Sarah Hudson Semple, Sidney Olluyn, Tony Kwok, Kellie Brewart, Liesbet Segaert, Hugh D. McCullom e Lisa Barber), os produtores de produção virtual, Gabriel Blake e Andrés Martinez, coordenaram análises de conteúdo com os diretores e chefes de arte, efeitos visuais e iluminação para garantir que todos estivessem na mesma página em relação ao progresso dos ambientes, e para verificar o que precisava de suporte para garantir que alcançássemos a maior fidelidade possível.
Cada equipe contribuiu com um apoio enorme para as imagens finais que apareceram no painel, com o departamento de efeitos visuais compartilhando dados de Lidar e digitalização de partes do set, ambientes e ativos. Ann Bartek (diretora de arte dedicada para todos os sets do volume) forneceu os materiais, cores e texturas exatos das versões físicas do set, para que as versões virtuais ficassem correspondentes.

Em dias de gravação, nossos supervisores de produção virtual trabalharam junto aos diretores dos episódios na preparação do painel de LED para gravar em uma direção definida. Quando as câmeras estavam prontas e posicionadas, os operadores de Unreal ajudavam a determinar qual perspectiva de câmera teria prioridade na renderização do painel, e trabalhavam com o departamento de câmera para encontrar perspectivas que minimizassem a sobreposição de frustum e maximizassem a fidelidade de monitoramento. 

Por exemplo, trabalhamos com o operador de steadicam para encontrar uma posição de montagem para o dispositivo de monitoramento, de maneira a não interferir na filmagem e garantir que os dados chegassem claros e precisos. Berto Mora e a ótima equipe da Unreal na All Of It Now foram integrados aos departamentos de câmera e de maquinistas para resolver os problemas, à medida em que eles apareciam.

Nosso eletricista-chefe virtual, Devon Mathis, também trabalhou com o diretor de fotografia dedicado ao volume, Bruce McCleery, e com os diretores de fotografia dos episódios para ajustar os valores de nit, balanço de branco e de cores dos LEDs, equilibrando-os com o restante da cena a cada tomada. Esse trabalho de preparação foi feito na etapa de pré-produção, quando nossa equipe de iluminação usou a Unreal para visualizar como cada configuração de iluminação ficaria em cada ambiente, e fez o planejamento para as transições de iluminação em tempo real.

Qual foi a vantagem de ter um diretor de fotografia dedicado ao volume para trabalhar em conjunto com o diretor de fotografia de cada episódio?

Bruce McCleery foi nosso diretor de fotografia dedicado ao volume para o trabalho de efeitos especiais na câmera nos sets do Refúgio 4, do Observatório Griffith e do Vertbird. Ter um diretor de fotografia dedicado tão talentoso para lidar com o conteúdo antes e depois dos dias de pré-iluminação, trabalhar com nosso eletricista-chefe virtual, Devon Mathis, e conduzir a produção foi uma experiência muito positiva, que levou diretamente a resultados muito bonitos. Recomendamos ter um diretor de fotografia dedicado ao volume ao avançar para cada etapa de produção de efeitos especiais na câmera, principalmente o trabalho em episódios, que tem cronogramas mais rápidos e, às vezes, mais variação de elenco e direção.
Também tivemos o privilégio de receber o suporte sensacional da Margot Lulick, uma produtora incrível que trabalhou na segunda metade dos episódios. Ela garantiu que as partes de LED da filmagem recebessem a atenção apropriada. Os efeitos especiais na câmera eram uma novidade para a maior parte da equipe de produção, mas Margot e a equipe dela passaram um tempo aprendendo sobre o processo, para garantir que aproveitássemos as melhores partes do volume com criatividade e filmássemos com eficiência.

Descreva o papel fundamental do volume de LED na série, seja como ferramenta de efeitos visuais ou como parte da história.

A própria história acabou levando para a tecnologia do volume de LED, já que, na série, um projetor Telesonic simula a paisagem das plantações de milho de Nebraska no refúgio. Então, o volume de LED é usado tanto como uma ferramenta técnica quanto como um elemento da história. Isso permitiu que Jonathan Nolan e os produtores se divertissem um pouco com a ideia de brincar com um plano médio de passagem do tempo.
Durante a cena do casamento na plantação de milho, o Supervisor tem uma fala que indica a mudança de fim de tarde para noite, com uma animação em plano médio da lua nascendo. Isso nos permitiu brincar com belos elementos de efeitos no painel durante a batalha entre o Refúgio 33 e os moradores da superfície. Para os momentos em que os projetores são atingidos por tiros, nossa equipe do Houdini, Justin Dykhouse e Daniel Naulin, montou um efeito de película de filme queimando que acaba tomando conta de toda a tela. 

Captamos referências de película queimando, pesquisamos na Internet por tipos de filme nos anos 50 e os padrões na hora de queimá-los, e criamos um efeito cativante que se espalha aos poucos pelas três paredes do refúgio. Na montagem desse efeito, percebemos que as necessidades de um ambiente no set eram parecidas com a montagem do efeito para um jogo de videogame. Ou seja, queríamos que a transição de um estado para o outro acontecesse num momento predeterminado, mas com flexibilidade criativa. 

Dessa forma, a produção não se baseou no tempo rígido de um elemento de efeito linear, mas conseguiu reagir a uma deixa da atuação dos atores. Essa oportunidade única só foi possível porque trabalhamos na Unreal.
Por que trabalhar em 3D em tempo real foi essencial para o seu trabalho nessa produção?

A Unreal proporcionou flexibilidade, o que permitiu que a equipe fizesse modificações criativas no set durante a etapa de pré-produção. Como já tínhamos trabalhado antes com essa equipe de produção, sabíamos que precisávamos ser flexíveis no set, e que talvez fosse necessário fazer modificações de última hora na iluminação ou no design do set. 

Inclusive, quando estávamos filmando o set da porta do refúgio, nossa equipe recebeu a ideia de acender as luzes durante a tomada em que Lucy está saindo do elevador para "revelar o ambiente". Nosso chefe de VAD, Devon Mathis, e nosso supervisor de desenvolvimento visual/iluminação, Jeremy Vickery, logo criaram um plano, montaram a solução em um novo nível antes do almoço e carregaram o nível no set, para ele ser usado na filmagem da tomada inicial da cena, com uma mudança dinâmica de iluminação no plano médio. Isso nunca seria possível com conteúdo pré-renderizado.
Da mesma forma, no último dia de filmagem, a produção falou conosco sobre uma oportunidade de filmar o teaser pós-créditos do episódio final. Rapidamente, criamos um nível simples usando o Environment Light Mixer para iluminar e filmar o Supervisor Hank usando a Armadura Potente enquanto ele vaga pelo deserto. Devido à flexibilidade do sistema, conseguimos montar a cena e carregá-la no painel em menos de 10 minutos.

Que papel a Unreal Engine desempenhou para ajudar a planejar e agendar os dias de filmagem?

Antes de uma tomada, fizemos o máximo de dias de preparação da luz que o cronograma permitiu. Nesses dias, ligamos a saída do painel de LED com a iluminação do set, e filmamos o resultado com o corpo da câmera e a película da série. Juntamos esses testes com a exposição da câmera e também com as ferramentas de exposição manual da Unreal. 

O resultado dos testes permitiu que medíssemos até que ponto nossa câmera digital de referência saía de sincronia com a película, e quais ajustes poderíamos fazer para deixar tudo com um ótimo visual, numa grande variedade de cenários de iluminação. Para trabalhos assim, usar o Lumen na Unreal nos possibilitou disponibilizar a iluminação virtual tanto quanto a iluminação física no set. O que normalmente precisaria de vários níveis de luz incorporada pôde ser feito em tempo real.

Além disso, ter sets em tempo real deu muitas oportunidades para os cineastas tomarem decisões criativas de enquadramento, iluminação e esboço de ação nos estágios iniciais do desenvolvimento. Isso até ajudou os assistentes de direção a agendarem os dias de filmagem, visualizando como as partes grandes do equipamento entrariam no set, e onde elas poderiam ser colocadas.

O set da plantação de milho do Refúgio 33 foi projetado para ser simétrico, para que, quando fosse necessário "virar" a gravação para outra direção, só algumas partes do cenário precisassem ser movimentadas. Fizemos uma rotação virtual de 180 graus no ambiente para filmar o refúgio. Durante toda a etapa de produção do painel de LED, tivemos 99% de tempo produtivo, e o atraso foi de apenas 9 minutos. Isso deu confiança para produtores e assistentes de direção agendarem as filmagens do volume com mais ousadia, sabendo que as equipes da Magnopus, da Fuse e da All of it Now (todas empresas parceiras de serviço da Unreal Engine) dariam conta do recado.

Qual era o tamanho da equipe da Magnopus que trabalhou no projeto, e quantos artistas trabalharam na Unreal Engine?

A equipe da Magnopus contou com 37 pessoas durante a produção da temporada completa. 19 artistas montaram sets virtuais, e 7 operadores executaram o sistema de nDisplay da Unreal no painel de LED, integraram o monitoramento de câmera e programaram os dados de DMX para os sistemas de iluminação. Os engenheiros de software, a direção criativa e a supervisão de produção montaram o restante da equipe, composta de pessoas que trabalhavam na Unreal.
Teve alguma funcionalidade específica da Unreal Engine que foi essencial para dar vida à série?

O Lumen é a parte mais importante da Unreal que fez Fallout virar realidade. Tivemos uma queda considerável no tempo de inatividade no set depois que migramos da iluminação incorporada e pudemos iterar as mudanças de iluminação em tempo real com o diretor de fotografia, que aumentou a eficácia das nossas análises criativas.

Explore a Unreal Engine para cinema e televisão

Crie personagens cativantes. Conte histórias inéditas. Ou deixe o público explorar um mundo totalmente novo por conta própria. A Unreal Engine oferece controle criativo sem precedentes sobre todo o processo de produção.

Blogs semelhantes


GDC 2025

GDC 2025

Junte-se a nós em São Francisco para a GDC 2025, de 17 a 21 de março, onde vamos realizar diversas sessões sobre desenvolvimento de jogos, abordando Unreal Engine, UEFN e muito mais.

Arquitetura

A Unreal Engine 5.5 já está disponível

Esta versão traz grandes melhorias na criação de animações, renderização, produção virtual, desenvolvimento de jogos para dispositivos móveis, conjuntos de ferramentas para iteração de desenvolvedores e muito, muito mais.

Jogos

Epic para Indies, agora na Comunidade de Desenvolvedores da Epic

Você faz parte de uma pequena equipe de desenvolvimento de jogos que tem um grande sonho? Estamos apresentando um novo espaço dedicado especialmente a desenvolvedores indie, onde você pode se conectar com pessoas que pensam como você, receber atualizações sobre as últimas notícias e eventos, e encontrar e compartilhar recursos de aprendizado.