DeepSeek大模型的本地安装与Python调用指南

首先进入 ollama 官网

https://ollama.com/

点击下载

下载完成后所有都是下一步,就可以
点击搜索 Models

https://ollama.com/search


然后点击下载:

选择后复制:

ollama run deepseek-r1:32b


例如:

让它安装完成后:

ollama list
ollama run deepseek-r1:32b

vscode 进行python编程

C:\Users\admin>python
Python 3.11.9 (tags/v3.11.9:de54cf5, Apr  2 2024, 10:12:12) [MSC v.1938 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> exit()

安装 openai 包
pip install openai 

检查 ollama 状态:

http://127.0.0.1:11434/


参照文档:

https://github.com/ollama/ollama/blob/main/docs/openai.md

编写 python 代码:
注意: model=‘deepseek-r1:32b’, 这里一定和你用 ollama 用 list 里面看到的一样

from openai import OpenAI  
client = OpenAI(
    base_url='http://localhost:11434/v1/',

    # required but ignored
    api_key='ollama',
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            'role': 'user',
            'content': '你是谁',
        }
    ],
    model='deepseek-r1:32b',
)

# 使用示例
if __name__ == "__main__":
   
   txtcontent = chat_completion.choices[0].message.content
   print(txtcontent)
   

输出:

<think>

</think>

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽 
我所能为您提供帮助。

作者:Tiantangbujimo7

物联沃分享整理
物联沃-IOTWORD物联网 » DeepSeek大模型的本地安装与Python调用指南

发表回复