...
...

Nvidia与OpenAI合作:RTX显卡用户可离线运行AI模型

大多数支持

Nvidia与OpenAI联合宣布,配备16GB以上显存的GeForce RTX或RTX Pro显卡用户,如RTX 4080及以上型号,可在本地离线运行强大的AI模型gpt-oss-20b,无需订阅或联网。这一合作让个人和开发者能够实现私密、快速的生成式AI处理,适用于文档分析、智能搜索、辅助编程等任务。对于企业用户,gpt-oss-120b则需配备80GB显存的Nvidia Blackwell服务器GPU(如GB200 NVL72),可支持每秒高达150万token的处理能力。Nvidia也推荐使用如Ollama或Microsoft AI Foundry Local等本地工具,以及llama.cpp等开源方案,为不同层次用户提供优化体验。