PyTorch设置随机数
PyTorch设置随机数
通过设置随机种子,使训练结果可复现,有效对比模型测试结果;
目录设置方式
参考资料
设置方式:训练过程中的随机数包含:初始权重、随机数据增强、数据读取顺序等,将这些随机数固定,按理可保证训练结果一致。
123456789101112131415161718192021# 设置随机种子def set_seed(seed): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic = True torch.backends.cudnn.benchmark = False # 设置Dataloader的种子def set_random_Dataloader(worker_id, rank, seed): worker_seed = rank + s ...
2023-AI事件回顾
基础:22年11月30日,ChatGPT横空出世
23年2月:
ChatGPT plus 版本上线;
微软宣布将ChatGPT功能集成到New Bing;
Meta发布LLaMa
23年3月:
OpenAI推出ChatGPT API;
OpenAI发布GPT-4
百度发布文心一言
23年4月:
Meta发布Segment Anything
23年5月:
特斯拉人形机器人(流畅行走、抓取物体)
===============
23年6月:
Runway Gen-2
23年7月:
Llama2开源;
overflow AI
23年9月:
OpenAI将DALL.E 1升级至DALL.E 3;
微软 EvoDiff;
HeyGen;
特斯拉Optimus可自主对物体进行分类(端到端训练)。
23年10月:
文心大模型4.0发布
23年11月:
Pika 1.0发布
23年12月:
谷歌DeepMind发布Gemini模型;
Mixtral AI开源了一个Mixtral 8x7B MoE模型;
MidJounery V6发布
整体领域:AIGC
细分 ...