[Avançado] Chatbot com Google Gemma no Google Colabs + CUDA

Olá programadores,

a quem tiver curiosidade em usar o Gemma (LLM do Google) eu estive tendo dores de cabeça mas consegui utilizar e fazer o uso com a GPU para poder rodar um Chatbot, vou disponibilizar o código na integra para quem quiser testar e evitar as dores de cabeça que eu tive (haha).

créditos: autor

Modelo usado: 2b-it

Device: Cuda (usar CPU é ter paciência)

Código: Gemma on Colabs

__

Obs: Eu coloquei avançando porque não quero frustar ninguém que esteja esperando uma forma simples ou sem o uso de IA para fazer um chatbot no entanto se tu usa LLM sabe que é bem tranquilo :)