Moderador de conteúdo
Ferramenta interna de moderação de conteúdo com diretrizes por canal, pontuação de conformidade com IA via Model Serving e fluxo de revisão por moderadores baseado no Lakebase e em análises do Genie.
Crie com IA
- Copie o prompt abaixo
- Cole-o no Cursor, Claude Code, Codex ou em qualquer agente de programação
- Seu agente cria o app, fazendo perguntas ao longo do processo para que o resultado seja exatamente como você deseja
Não conhece os modelos? Saiba mais aqui
Inclui um app inicial funcional
O código funcional e executável está no GitHub. Ao copiar o prompt acima, seu agente de programação o clona como ponto de partida e o adapta aos seus dados e caso de uso.
Este modelo demonstra uma ferramenta interna de moderação de conteúdo criada no Databricks: os autores enviam conteúdo para diferentes canais (blog da empresa, LinkedIn, Twitter, newsletter, comunicados à imprensa), os moderadores mantêm diretrizes específicas de cada canal e um LLM avalia cada envio de acordo com essas diretrizes antes de um revisor humano dar a palavra final.
Fluxo de dados
O conteúdo percorre um pipeline de revisão apoiado por Lakebase e Model Serving:
- Autores enviam conteúdo ao Lakebase Postgres, especificando título, corpo e destino do conteúdo (blog, LinkedIn, etc.).
- A pontuação por IA é acionada automaticamente. O servidor busca as diretrizes ativas para o destino do conteúdo, envia o conteúdo junto com as diretrizes a um Model Serving endpoint e armazena a pontuação de conformidade (0-100), os problemas sinalizados e as sugestões de melhoria.
- Moderadores revisam a partir de uma fila que exibe as pontuações de IA ao lado de cada envio. Eles aprovam, rejeitam ou solicitam revisões com feedback.
- A gestão de diretrizes permite que os moderadores criem e atualizem regras por destino de conteúdo. Quando as diretrizes mudam, os moderadores podem reanalisar os envios existentes.
- Queries no SQL Warehouse alimentam o dashboard de análise (contagem de envios, taxas de aprovação, pontuações médias de conformidade por destino).
- Um Genie Agent sobre as tabelas de moderação de conteúdo permite fazer perguntas em linguagem natural sobre o desempenho do conteúdo.
O que adaptar
A configuração inicial e o provisionamento estão documentados no README.md do repositório.
Para personalizar este modelo:
- Lakebase: aponte o
databricks.ymldo app para o seu próprio projeto, branch e banco de dados Lakebase. - SQL Warehouse: defina o ID do warehouse usado nas queries de análise.
- Serving Endpoint: defina o nome do endpoint de model serving para a análise de conteúdo por IA (por exemplo,
databricks-claude-sonnet-4-6). A pontuação por IA é opcional; o app funciona sem ela. - Genie Agent: crie um Genie Agent sobre as tabelas
content_moderatione defina o ID do space. - Destinos de conteúdo: ajuste a lista de destinos nas rotas do servidor e nos utilitários do cliente para refletir os canais de conteúdo da sua organização.
- Diretrizes: substitua as diretrizes iniciais pelas políticas de conteúdo reais da sua organização.
- Dados iniciais: o script de seed cria 7 diretrizes, 10 envios de exemplo e 5 revisões. Substitua por seus próprios dados ou use o formulário de envio do app.
Baseado nestes modelos
O código deste exemplo e o prompt do agente acima são baseados nos modelos abaixo. Abra um deles para explorar uma técnica específica isoladamente ou aplicá-la a outro projeto.
[MODELOS]
Aplicação com Lakebase
Configure um Databricks App com o Lakebase para armazenamento persistente de dados. Inclui configuração de esquema e rotas completas de API para CRUD.
[MODELOS]
Análise Conversacional do Genie
Incorpore uma interface de chat do Databricks AI/BI Genie para que os usuários possam explorar dados em linguagem natural. Configure um Genie Agent, conecte plugins de servidor e cliente, declare recursos da aplicação e implante.
[MODELOS]
Consulte Endpoints de Modelos Fundamentais
Consulte endpoints de modelos fundamentais do Databricks para acessar modelos hospedados e prontos para produção, com governança integrada do AI Gateway.
