记录解决阿里云PAI无法访问HuggingFace的方法
目前AI将会是未来的大趋势,但现在HF被屏蔽,使得我在阿里云、腾讯云的GPU平台下都无法正常下载模型。本身NoteBook就应该是简单易用的,如此一来部署的步骤就繁琐了很多,再加上境外访问和魔法的加成,下载、拉取往往以几MB来计算,使得像V100\A100这类本身使用成本就高的GPU环境更加雪上加霜。下面是我的解决方案。
加速方案
目前在使用的还是需要依赖境外服务器做中转加速,操作步骤具体如下:
- 在Terminal上启动加速器,配置Http/Https/Socks5端口,接下来以10808和10809为例
- NoteBook中安装Httpx并降级requests、urllib3
!pip install httpx[socks]
!pip install requests==2.27.1
!pip install urllib3==1.25.11
在*.py项目中配置代理端口
import os
os.environ['CURL_CA_BUNDLE'] = ''
os.environ['HTTP_PROXY'] = "http://127.0.0.1:10809"
os.environ['HTTPS_PROXY'] = "http://127.0.0.1:10809"
os.environ['ALL_PROXY'] = "socks5://127.0.0.1:10808"
import urllib3, socket
from urllib3.connection import HTTPConnection
HTTPConnection.default_socket_options = (
HTTPConnection.default_socket_options + [
(socket.SOL_SOCKET, socket.SO_SNDBUF, 2000000),
(socket.SOL_SOCKET, socket.SO_RCVBUF, 2000000)
])
- Shut Down该KERNELS
- 重新运行
本作品采用 知识共享署名-相同方式共享 4.0 国际许可协议 进行许可。