Visão geral da situação

Cibercriminosos têm, recentemente, transformado a revenda de acesso via cloud de LLMs em um modelo de negócio, causando prejuízos de milhões de dólares em consumo de recursos a corporações antes da revogação de acesso aos endpoints.

O LLmJacking tem capacidade de criar um aumento repentino no consumo de recursos computacionais dos modelos em questão de horas – comportamento que se difere de explorações similares como o CryptoJacking, que consume recursos de maneira vagarosa. A prática maliciosa tem gerado um fluxo atrativo de renda para agentes maliciosos de múltiplas regiões, sendo levantadas estatísticas por pesquisas realizadas por empresas como a Google [1].

De acordo com pesquisadores daGoogle, “Em incidentes pontuais, foram observadas cobranças fraudulentas associadas ao consumo de recursos de mais de cem mil dólares em um único dia, com cobranças cumulativas a algumas organizações alcançando milhões de dólares antes da revogação de acesso”. Para ganhar acesso a LLMS de organizações, atacantes buscam por endpoints públicos para a obtenção de uma interface de programação de aplicação (API), de acordo com os pesquisadores.

O vetor de acesso predominante parece se consistir em tokens de identidade expostos ou roubados – incluindo credenciais de serviços de gerenciamento de acesso e identidade (IAM), chaves de conta de serviço , tokens de acesso do GitHub e tokens de sessão ativa. Utilizando tal recurso, o agente consegue acesso direto à infraestrutura interna da corporação, facilitando grandemente a aquisição de uma chave de API.

Como se portam os agentes maliciosos

A chave para a venda dos modelos roubados está nos LLM mixers, os quais, por sua vez, oferecem serviços de assinatura comerciais os quais utilizam das APIs roubadas. Esses serviços agregam credenciais comprometidas, fazem comutação de consultas dos clientes através dos ambientes das vítimas e oferecem modelos premium a preços significantemente abaixo dos preços legítimos de mercado.

Fora notado também que alguns atacantes deliberadamente mantêm sua atividade inicial reclusa, utilizando somente de requisições de API mínimas, que geralmente contém somente um token de output, dessa maneira, validando credenciais sem gerar altas suspeitas no consumo.

Desafios na detecção / mitigação do LLMJacking

Nesse ínterim, portanto, surge o desafio de detecção prematura por parte das organizações no encontro de indicadores de comprometimento de identidade e de vazamento de acesso a serviços de API . Como o LLMjacking depende de as vítimas não estarem cientes do comprometimento de credenciais, a chave para não se tingir com uma enorme conta de consumo de recursos é identificar a intrusão o mais rápido possível.

Para isso, os defensores devem priorizar IAM e segurança de cadeia de suprimentos, dois dos caminhos mais comuns para obter acesso e abusar de serviços em nuvem, segundo o Google .Outras práticas recomendadas para prevenir o LLMjacking em um ambiente de nuvem incluem uma boa higiene de credenciais usando uma plataforma centralizada de gerenciamento, garantia de menor privilégio para que usuários e contas de serviço possuam apenas as permissões necessárias para sua função específica e o monitoramento de código automatizado em bases de código como GitHub e GitLab para remoção de segredos/tokens.

Referências

[1] https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models