目前AI将会是未来的大趋势,但现在HF被屏蔽,使得我在阿里云、腾讯云的GPU平台下都无法正常下载模型。本身NoteBook就应该是简单易用的,如此一来部署的步骤就繁琐了很多,再加上境外访问和魔法的加成,下载、拉取往往以几MB来计算,使得像V100\A100这类本身使用成本就高的GPU环境更加雪上加霜。下面是我的解决方案。

加速方案

目前在使用的还是需要依赖境外服务器做中转加速,操作步骤具体如下:

  1. 在Terminal上启动加速器,配置Http/Https/Socks5端口,接下来以10808和10809为例
  2. NoteBook中安装Httpx并降级requests、urllib3
!pip install httpx[socks]
!pip install requests==2.27.1
!pip install urllib3==1.25.11
  1. 在*.py项目中配置代理端口

    import os
    os.environ['CURL_CA_BUNDLE'] = ''
    os.environ['HTTP_PROXY'] = "http://127.0.0.1:10809"
    os.environ['HTTPS_PROXY'] = "http://127.0.0.1:10809"
    os.environ['ALL_PROXY'] = "socks5://127.0.0.1:10808"
    import urllib3, socket
    from urllib3.connection import HTTPConnection
    
    HTTPConnection.default_socket_options = ( 
        HTTPConnection.default_socket_options + [
        (socket.SOL_SOCKET, socket.SO_SNDBUF, 2000000), 
        (socket.SOL_SOCKET, socket.SO_RCVBUF, 2000000)
        ])
  1. Shut Down该KERNELS
  2. 重新运行