创业学院 10 个人拿到 4000 万美元,这家 AI 公司正在让 AI 变便宜 10 个人的 Wafer 刚完成 4000 万美元 A 轮,AMD Ventures 也在跟投名单里。它让智能体接手最稀缺的性能工程:一段 GPU 程序经过七轮迭代提速 9 倍,每月超 2 万亿 token 在其推理服务上运行。模型竞赛的下一站,可能藏在推理账单里。 深思 SenseAI AMDWafer推理优化
个人随笔 每百万 Token 成本砍六成,出海 AI 团队开始重算推理这笔账 当AI产品的用户增长与成本控制形成致命矛盾时,出海团队如何破解算力困局?本文深度剖析亚太情感陪伴公司的实战案例,从RTX PRO 6000的FP4精度优势到Akamai的全球网络布局,揭示推理成本优化的核心方法论。 硅星人Pro AI应用云计算出海战略
AI 当推理成本降到原来的1/100,AI产品还能怎么活? 加拿大公司Taalas的革命性技术将Llama 3.1 8B模型的推理成本降至0.75美分/百万token,比传统GPU云服务低266倍。这不仅颠覆了AI产品的成本结构,更迫使产品经理重新审视定价逻辑、场景选择和交互设计。当推理变得又快又便宜,那些曾被成本扼杀的需求或将迎来新生,而现有的交互范式也面临全面重构。 浩思AI AI芯片Taalas交互设计