AI入门第一课:把模型跑起来

0 评论 1192 浏览 10 收藏 9 分钟

AI大模型发展到现在,国内外都有在线和离线版本,那如何在自己本地部署大模型呢?本文分享了一种简单的办法,一起来看看吧。

我们经常能看到某某公司开源了一款AI大模型的新闻。这些模型都有着超强的能力,从生成大段的文字、逼真的图像,到理解和翻译不同语言,再到创造出令人叹为观止的音乐和艺术作品。

对于我们普通人来说,这些高科技听起来不仅遥不可及,而且似乎与我们的日常生活无关,他们像是只有那些天才和大神们才能操作和使用的。

但是这些强大的AI模型,并不止是大神们才能接触和使用,实际上,这些模型的使用门槛其实不高。任何对AI感兴趣的人都可以轻松获取和使用这些模型,就像搭乐高积木一样,将它们组合起来,创造出你心目中的应用。

这一切既不需要深厚的技术背景,也不需要复杂的编程技能。只要你有想法和一丢丢的学习,这些强大的模型就能成为你随意操作的「乐高」,搭建出你设想的样子。

下面我们一起来看下,如何把模型跑起来

第一步:找到一个模型

首先,第一步我们得知道去哪里找到这些模型,很简单,有一个神奇的网站叫:Hugging Face(https://huggingface.co/),这个网站本质就是一个大模型的托管网站,目前这个网站托管的AI模型超过57万。一些热门的模型,比如meta的Llama系列模型,google的Gemini等都托管在这个网站上,任何人都可以访问并使用它们。

假设,我们现在要找一个模型,可以实现读图的功能,就是给它一张图片,它可以告诉我这个图片里的主要内容是什么。这个模型的逻辑如下图,非常简单,输入一张图片,输出一段图片的文本描述。

这个模型本质上就是一个图片到文本的模型,我们在Hugging Face里选择Image-to-Text的分类,然后从得到的结果里看排名第一个的模型,就是下图红框圈选的:Salesforce/blip-image-captioning-large,这个就是模型的名字。

点击模型进行模型的详情页,这里有模型的详细原理介绍,以及在线试用的功能,可以在这里直接体验模型的效果。

找到了模型之后,我们接下来第二步,如何部署和使用模型。

第二步:模型的部署和使用

模型的使用涉及到模型的加载、预处理、模型推理和后处理步骤等,听起来似乎很复杂,但是不用担心,Hugging Face还给我们提供了一套使用的工具,那就是Transformers库中的pipeline方法,pipeline 将前面提到的模型使用所有步骤封装成一个简单的函数调用。我们只需要使用这个函数方法,指定需要完成的任务类型,当然我们也可以指定特定的模型和配置来定制使用。Transformers库是由Hugging Face公司开发的一个开源Python库,里面除了pipeline外,还有很多其它的方法和工具,这里就不细说了。

具体的使用其实就是几行Python代码就可以搞定,非常简单。这里额外说下,我们经常在使用写python的时候,需要安装编译器和配置环境,往往这些环境配置就已经消耗了我们的所有激情了。这里,感谢google大大提供的一个在线编程工具colab,直接解决所有安装和环境问题。

Colaboratory界面如下,就是一个可以在线写python代码的「笔记本」。

我们新建一个文件,然后输入第一行代码:

pip install transformers

就这样一行代码,Transformers库就安装好了。后面具体的操作,点击上传图片。

随后编写的代码和解释如下,懂一点点python和编程的人,应该就能写出来。写完后点击代码侧边的运行按钮即可。

输出的文案是:arafed woman sitting on the ground with a camera and a tripod. (一位戴着头巾的女性坐在地上,旁边放着相机和三脚架。)基本识别出来图片中的主要内容。

到此,我们的第一个模型的选择和使用的demo就完成了。

这段代码的地址如下:

https://colab.research.google.com/drive/1NWTircHzljiU2MNCKjA9PpyGJCMcpqmc?usp=sharing

三、最后

如果我们有更复杂的想法,比如我们可以用得到的图片描述,再用LLM模型,帮助编写一个故事脚本,再通过一个文生视频模型,变成图片或者视频,具体的流程如下图所示。

这些都是可以用一个一个模型拼接出来的。至于如何拼接,后续的文章中会继续介绍。

因此,在AI时代来临之际,如果你是一个有想法的产品,那么可以自己通过这些多种多样的模型实现自己的想法。分享一个我看到的有意思的模型实践,利用codeformer模型,去除图片的马赛克,大家可以去huggingface上体验下,https://huggingface.co/spaces/sczhou/CodeFormer

突然感觉这个应用可能蛮有前景!你觉得呢?哈哈哈。我也是AI入门学习者,对于模型的使用还有很多其它的平台和方法,我也在摸索中,欢迎大家交流讨论~

专栏作家

南村小付,微信公众号:南村小付,人人都是产品经理专栏作家。快手高级产品经理,曾任职阿里,欢聚时代,7年互联网产品设计运营经验。

本文原创发布于人人都是产品经理,未经许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!