Swiftlet: Como Rodar LLMs de 80B em Pouca RAM no Mac e iPhone
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
Conheça o Swiftlet, motor de inferência que permite executar modelos de linguagem de 80B parâmetros em aparelhos com pouca memória RAM usando quantização avançada.
A Apple anunciou uma inovação na arquitetura de inteligência artificial, pegando como referência o Google Gemini para os seus modelos em nuvem. Entenda o que isso significa para o iPhone e como os desenvolvedores iOS serão impactados. Saiba também por que essa parceria é tão relevante para iniciantes em programação.