在Linux上本地部署ollama运行deepseek1.5b,我的踩坑实录

那天,我在实验室摆弄一台旧笔记本电脑,并尝试在其上运行 DeepSeek1 .5 b 模型。
这使得下载进度条就像一只乌龟,长时间无法移动几毫米。
我盯着停滞的进度条,惊慌失措。
后来灵机一动,用了一个小众的下载工具,终于把模型下载下来了。
那一刻我意识到,有时候解决问题并不需要走寻常路。

就硬件而言,我的笔记本电脑只有 1 6 GB 内存,1 .5 b 型号至少需要 2 4 GB 内存。
我尝试压缩模型,但精度下降了几个点。
这时我突然想到,也许如果我换成服务器就不会出现这些问题了。
然而,服务器呢?它要多少钱?我叹了口气,想,也许我应该先测试一下小模型,然后积累足够的经验。

当我运行模型时,我发现它处理计算任务的能力极其薄弱。
我尝试要求它解决一个简单的数学问题,答案令人惊讶。
我意识到,虽然这个模型很强大,但也有不足之处。
这时我开始考虑如果想让模型在这些领域有所作为,是否需要接受“特殊训练”。

最后,我总结了这些经验,发现本地使用DeepSeek1 .5 b有其优点,但也有很多局限性。
我开始考虑是否应该寻找替代方案,例如云服务。
因为谁不想为自己省去忧虑和麻烦呢?

Linux 本地部署Paperless-ngx文档管理系统&远程访问

哇,这个Paperless-ngx文档管理系统,顾名思义,是减少纸张消耗的好东西。
我以前用过。
那东西的OCR功能很棒。
它可以自动识别扫描文档中的文本并将其转换为可编辑和可搜索的文本格式。
非常舒服。

我们需要把这个系统部署在本地,然后实现远程访问,这需要一些技术。
之前我是用cpollo内网穿透工具做过的。
这个cpolar可以在Windows、MacOS和Linux系统上使用,非常方便。

首先您需要安装 Docker 和 Dockercompose,它们是运行 Paperless-ngx 的关键。
在 Linux 系统上,首先创建一个文件夹,然后编写一个 docker-compose.yml 文件,该文件应配置 Paperless-ngx 运行时参数。

写入文件后,执行launch命令,使用dockerps命令查看运行状态。
默认端口为8 000。
然后您需要设置登录用户名和密码。
这一步非常重要,一定要保证安全。

设置完成后,您可以在 Linux 局域网中访问 Paperless-ngx。
接下来我们进行cpollo内网登录。

首先在Linux系统中安装cpolar,然后进入管理界面。
创建隧道并配置公网http地址。
创建一个随机的公网地址,然后就可以通过浏览器访问了。
这被认为是临时访问,但不能长期使用。

您应该设置一个永久的二级子域名以便长期使用。
登录cpolar官网,预留二级子域名,然后设置名称。
在cpolarweb管理界面中,更新隧道信息,添加二级子域名。

更新后,您可以获得这个固定的公网地址,这样您就可以远程访问本地Paperless-ngx服务,而无需公网IP或云服务器。
当时我不太明白这个原理,但是确实很方便。

MinIO-0001-MinIO 对象存储 Linux 版本文档

在 Linux 上部署 MinIO 非常简单。
直接使用命令就可以了。

指定版本为稳定版本RELEASE.2 02 4 -05 -1 0T01 -4 1 -3 8 Z。
它兼容AWS S3 ,可以在任何环境中使用。

你想尝试一下吗?前往 play.min.io 进行游戏。
但在开放环境中,您不会弄乱重要数据。

您只需使用一台设备进行开发和测试。
多节点、多磁盘的生产环境更加稳定。

安装前必须获得许可。
读写用户目录,并将二进制文件放入PATH中。

您还需要了解 Linux 终端并使用 RHEL8 或 Ubuntu LTS 等 6 4 位系统。
RPM、DEB 和二进制包都不错,具体取决于您的硬件架构。

启动命令是minioserver。
在~/minio目录下执行。

在浏览器中打开http://1 2 7 .0.0.1 :9 000进入控制台。

还可以安装mc客户端,命令行操作更方便。

最后一步是连接应用程序并保留对象和安全设置。

文档相当全面,涵盖了从入门到生产的所有内容。

您首先尝试自由出版吗?