本文主要讲述了在Windows10环境下使用yolov3训练模型的具体步骤
本文主要包括以下内容:
一、程序下载与准备(1)yolov3下载(2)训练集文件夹创建(3)预训练权重下载
二、环境搭建(1)pytorch安装(2)将pytorch应用到工程(3)requirements中的依赖包安装(4)环境搭建可能遇到的问题1.遇到错误 ERROR: Could not build wheels for pycocotools which use PEP 517 and cannot be installed directly
三、数据集制作四、yolov3模型训练(1)修改数据配置文件(2)修改模型配置文件(3)train.py主函数修改(4)模型训练可能遇到的问题1.遇到错误 subprocess.CalledProcessError: Command 'git tag' returned non-zero exit status 1.2.遇到错误 UnicodeDecodeError:: 'utf-8' codec can't decode byte 0xc8 in position 0: invalid contin3.遇到错误 BrokenPipeError: [Errno 32] Broken pipe4.遇到错误 OMP: Error #15: Initializing libiomp5md.dll, but found libiomp5md.dll already initialized.
五、测试结果(1)图片测试步骤
软件准备:anaconda3,pycharm
一、程序下载与准备
(1)yolov3下载
yolov3的github地址:yolov3 1.可以点击此处选择自己想要下载的版本(本文以9.5.0为例) 2.点击左边的download即可下载压缩包 3.下载并解压后的文件夹如图所示: 在pycharm中打开工程目录如下图所示: ![在这里插入图片描述](https://img-blog.csdnimg.cn/b592663ce2034023b7010217b67b1bc5.png)
(2)训练集文件夹创建
1.在yolov3-9.5.0工程文件夹下,新建一个名称为VOCdevkit的文件夹 2.在VOCdevkit文件夹下,新建三个名称分别为images,labels,VOC2007的文件夹 3.在images和labels文件夹下分别新建两个名为train和val的文件夹 4.在VOC2007文件夹下新建三个名称分别为Annotations,JPEGImages,YOLOLabels的文件夹 如下图所示: Annotations:xml标签文件夹 JPEGImages:图片文件夹 YOLOLabels:txt标签文件夹(yolov训练需要txt格式的标签文件)
(3)预训练权重下载
加载预训练权重进行网络的训练可以减小缩短网络训练时间,并且提高精度。预训练权重越大,训练出来的精度就会越高,但是其检测的速度就会越慢。
1.预训练权重下载地址:yolov5权重 本文在此处选择下载的是yolov3-tiny.pt (不同的预训练权重对应着不同的网络层数,我们需要根据预训练权重使用对应的yaml文件,即在之后的训练中需要使用名称为yolov3-tiny.yaml的文件)
2.将下载好的权重文件保存在weights文件夹中 ![在这里插入图片描述](https://img-blog.csdnimg.cn/9b8a55dd515245de9749b5afa1103872.png)
二、环境搭建
(1)pytorch安装
windows10系统中通过anaconda安装pytorch的具体步骤可以阅读此篇博客: anaconda安装pytorch(anaconda3,Windows10)
(2)将pytorch应用到工程
在上一步中我们通过anaconda安装了pytorch,并将其导入了pycharm,下面我们来将名称为pyotch环境中的编译器应用到工程文件中去。 1.点击文件→设置 2.选择Project Interpreter,选择刚刚导入pycharm的pytorch环境,点击应用,最后点击确认 这样我们就成功将名称为pytorch环境中的编译器应用到了yolov3-9.5.0工程中
(3)requirements中的依赖包安装
1.接下来对工程所需的依赖包进行安装,首先打开terminal 2.复制requirements.txt文件中的命令行:
pip install -r requirements.txt
粘贴在terminal中,并按回车键运行命令行,requirements中的依赖包就开始安装了 ![在这里插入图片描述](https://img-blog.csdnimg.cn/db041654bc314b80bda36914ec9b3b34.png)
(4)环境搭建可能遇到的问题
1.遇到错误 ERROR: Could not build wheels for pycocotools which use PEP 517 and cannot be installed directly
参考此篇博客中的环境搭建可能遇到的问题部分: 目标检测—基于Yolov5的目标检测项目(学习笔记) (如有其它错误会后续更新)
三、数据集制作
使用labelimg来制作我们自己的数据集,labelimg的安装和基本操作可以阅读此篇博客: 数据集制作——使用labelimg制作数据集 yolov网络训练所需要的文件格式是txt格式的 如果通过labelimg给数据集打标签时输出为xml格式,可以通过代码将xml格式的标注文件转换为txt格式的标注文件; 如果输出为txt格式的标签文件则可以直接使用。同时训练自己的yolov3检测模型的时候,数据集需要划分为训练集和验证集,也可以通过相关代码实现。 本文以识别两个标签"person"和"har"为例,同时本文的数据集是以基于识别人带安全帽的数据集为例
本文以使用labelimg标注xml格式的标签文件为例: (打标签过程省略) 1.首先将图片数据集存放在JPEGImages文件夹下;将xml标签文件存放在Annotations文件夹下;即: JPEGImages里面存放着图片文件 Annotations里面存放着xml格式的标签 如图所示: ![在这里插入图片描述](https://img-blog.csdnimg.cn/68ab93b393b24ddd933c50f45011948b.png)
2.在工程中新建一个python的file,复制粘贴下面的代码并运行,即可将数据集划分为训练集和验证集 (注意将下面代码中的标签种类classes = [“hat”, “person”] 修改为自己的标签,下面代码中训练集占比TRAIN_RATIO = 80为80%)
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
import random
from shutil import copyfile
classes = ["hat", "person"] #标签种类
#classes=["ball"]
TRAIN_RATIO = 80 #训练集占比
def clear_hidden_files(path):
dir_list = os.listdir(path)
for i in dir_list:
abspath = os.path.join(os.path.abspath(path), i)
if os.path.isfile(abspath):
if i.startswith("._"):
os.remove(abspath)
else:
clear_hidden_files(abspath)
def convert(size, box):
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0
y = (box[2] + box[3])/2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
def convert_annotation(image_id):
in_file = open('VOCdevkit/VOC2007/Annotations/%s.xml' %image_id)
out_file = open('VOCdevkit/VOC2007/YOLOLabels/%s.txt' %image_id, 'w')
tree=ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
in_file.close()
out_file.close()
wd = os.getcwd()
wd = os.getcwd()
data_base_dir = os.path.join(wd, "VOCdevkit/")
if not os.path.isdir(data_base_dir):
os.mkdir(data_base_dir)
work_sapce_dir = os.path.join(data_base_dir, "VOC2007/")
if not os.path.isdir(work_sapce_dir):
os.mkdir(work_sapce_dir)
annotation_dir = os.path.join(work_sapce_dir, "Annotations/")
if not os.path.isdir(annotation_dir):
os.mkdir(annotation_dir)
clear_hidden_files(annotation_dir)
image_dir = os.path.join(work_sapce_dir, "JPEGImages/")
if not os.path.isdir(image_dir):
os.mkdir(image_dir)
clear_hidden_files(image_dir)
yolo_labels_dir = os.path.join(work_sapce_dir, "YOLOLabels/")
if not os.path.isdir(yolo_labels_dir):
os.mkdir(yolo_labels_dir)
clear_hidden_files(yolo_labels_dir)
yolov5_images_dir = os.path.join(data_base_dir, "images/")
if not os.path.isdir(yolov5_images_dir):
os.mkdir(yolov5_images_dir)
clear_hidden_files(yolov5_images_dir)
yolov5_labels_dir = os.path.join(data_base_dir, "labels/")
if not os.path.isdir(yolov5_labels_dir):
os.mkdir(yolov5_labels_dir)
clear_hidden_files(yolov5_labels_dir)
yolov5_images_train_dir = os.path.join(yolov5_images_dir, "train/")
if not os.path.isdir(yolov5_images_train_dir):
os.mkdir(yolov5_images_train_dir)
clear_hidden_files(yolov5_images_train_dir)
yolov5_images_test_dir = os.path.join(yolov5_images_dir, "val/")
if not os.path.isdir(yolov5_images_test_dir):
os.mkdir(yolov5_images_test_dir)
clear_hidden_files(yolov5_images_test_dir)
yolov5_labels_train_dir = os.path.join(yolov5_labels_dir, "train/")
if not os.path.isdir(yolov5_labels_train_dir):
os.mkdir(yolov5_labels_train_dir)
clear_hidden_files(yolov5_labels_train_dir)
yolov5_labels_test_dir = os.path.join(yolov5_labels_dir, "val/")
if not os.path.isdir(yolov5_labels_test_dir):
os.mkdir(yolov5_labels_test_dir)
clear_hidden_files(yolov5_labels_test_dir)
train_file = open(os.path.join(wd, "yolov5_train.txt"), 'w')
test_file = open(os.path.join(wd, "yolov5_val.txt"), 'w')
train_file.close()
test_file.close()
train_file = open(os.path.join(wd, "yolov5_train.txt"), 'a')
test_file = open(os.path.join(wd, "yolov5_val.txt"), 'a')
list_imgs = os.listdir(image_dir) # list image files
prob = random.randint(1, 100)
print("Probability: %d" % prob)
for i in range(0,len(list_imgs)):
path = os.path.join(image_dir,list_imgs[i])
if os.path.isfile(path):
image_path = image_dir + list_imgs[i]
voc_path = list_imgs[i]
(nameWithoutExtention, extention) = os.path.splitext(os.path.basename(image_path))
(voc_nameWithoutExtention, voc_extention) = os.path.splitext(os.path.basename(voc_path))
annotation_name = nameWithoutExtention + '.xml'
annotation_path = os.path.join(annotation_dir, annotation_name)
label_name = nameWithoutExtention + '.txt'
label_path = os.path.join(yolo_labels_dir, label_name)
prob = random.randint(1, 100)
print("Probability: %d" % prob)
if(prob |