search

SiaStg / SiaStegNet

A Siamese CNN for Image Steganalysis
64 stars 11 forks source link

关于具体如何训练 #1

Closed yiwliu closed 3 years ago

yiwliu commented 4 years ago

作者你好，我想问一下关于这篇论文如何具体构造数据集，如何进行训练。 鉴于本人水平有限，使用该repo的代码进行实验的时候不能取得很好的效果。

关于如何设置学习率、如何构建训练数据集、验证数据集，具体如何训练的问题希望能够稍微指导一下。

感谢

SiaStg commented 4 years ago

您好！感谢您对我的研究成果感兴趣。

根据以往的经验和其他使用者的反馈，一般使用已设定好的默认的参数，构建正常的训练数据集、验证数据集，就可以取得很好的效果。 唯一需要注意的是：不能用不适用计算的显卡（比如Nvidia 2080等只适合打游戏的显卡），是否您用了这类计算资源呢？

期待您更多的反馈信息

祝好

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月26日(星期一) 晚上8:10 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "Subscribed"<subscribed@noreply.github.com>; 主题: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

作者你好，我想问一下关于这篇论文如何具体构造数据集，如何进行训练。 鉴于本人水平有限，使用该repo的代码进行实验的时候不能取得很好的效果。

关于如何设置学习率、如何构建训练数据集、验证数据集，具体如何训练的问题希望能够稍微指导一下。

感谢

— You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 4 years ago

非常感谢您的回复！！！ 我使用的GPU型号为 GeForece RTX 2080Ti，应该不存在使用游戏显卡进行训练的问题。

以下具体描述一下本人的实验的相关配置，以及目前的实验结果。

附件是训练了200多个epoch的结果，以下是其中的一部分信息： 2020-10-27 15:46:52.%f train.py:267[27649] INFO Epoch: 239 2020-10-27 15:46:52.%f train.py:268[27649] INFO Train 2020-10-27 15:48:09.%f train.py:215[27649] INFO Train epoch: 239 [200/1000] Accuracy: 50.59% Loss: 0.720610 2020-10-27 15:49:27.%f train.py:215[27649] INFO Train epoch: 239 [400/1000] Accuracy: 50.73% Loss: 0.720714 2020-10-27 15:50:45.%f train.py:215[27649] INFO Train epoch: 239 [600/1000] Accuracy: 49.02% Loss: 0.721326 2020-10-27 15:52:02.%f train.py:215[27649] INFO Train epoch: 239 [800/1000] Accuracy: 49.77% Loss: 0.720646 2020-10-27 15:53:19.%f train.py:215[27649] INFO Train epoch: 239 [1000/1000] Accuracy: 50.11% Loss: 0.720887 2020-10-27 15:53:19.%f train.py:270[27649] INFO Time: 109008.01739406586 2020-10-27 15:53:19.%f train.py:271[27649] INFO Test 2020-10-27 15:53:42.%f train.py:254[27649] INFO Test set: Loss: 0.7220, Accuracy: 50.04%) 2020-10-27 15:53:42.%f train.py:282[27649] INFO Best accuracy: 0.50375 2020-10-27 15:53:42.%f train.py:283[27649] INFO Time: 109030.6237590313

如果您有时间非常感谢指导！！！

无论如何非常感谢您的回复，祝您工作顺利，万事如意！

SiaStg notifications@github.com 于2020年10月27日周二 下午2:27写道：

您好！感谢您对我的研究成果感兴趣。

根据以往的经验和其他使用者的反馈，一般使用已设定好的默认的参数，构建正常的训练数据集、验证数据集，就可以取得很好的效果。 唯一需要注意的是：不能用不适用计算的显卡（比如Nvidia 2080等只适合打游戏的显卡），是否您用了这类计算资源呢？

期待您更多的反馈信息

祝好

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月26日(星期一) 晚上8:10 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "Subscribed"<subscribed@noreply.github.com>; 主题: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

作者你好，我想问一下关于这篇论文如何具体构造数据集，如何进行训练。 鉴于本人水平有限，使用该repo的代码进行实验的时候不能取得很好的效果。

关于如何设置学习率、如何构建训练数据集、验证数据集，具体如何训练的问题希望能够稍微指导一下。

感谢

— You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub, or unsubscribe.

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub https://github.com/SiaStg/SiaStegNet/issues/1#issuecomment-717016277, or unsubscribe https://github.com/notifications/unsubscribe-auth/ALXJEEQM3DXN26KTCXJUTF3SMZR67ANCNFSM4S7JJCIA .

2020-10-26 09:36:28.%f env.py:27[27649] INFO Using a generated random seed 28362477 2020-10-26 09:36:28.%f train.py:85[27649] INFO Command Line Arguments: Namespace(alpha=0.1, batch_size=32, ckpt_dir='./kenet_result', cuda=True, epoch=500, eps=1e-08, finetune=None, gpu_id=0, log_interval=200, lr=0.001, lr_str=2, margin=1.0, model='kenet', num_workers=0, random_crop=False, random_crop_train=False, seed=-1, train_cover_dir='/mnt/sda4/datasets/netdata/train/cover', train_stego_dir='/mnt/sda4/datasets/netdata/train/stego', val_cover_dir='/mnt/sda4/datasets/netdata/valid/cover', val_stego_dir='/mnt/sda4/datasets/netdata/valid/stego', wd=0.0001) 2020-10-26 09:36:28.%f train.py:91[27649] INFO Building data loader 2020-10-26 09:36:29.%f dataloader.py:105[27649] INFO Training set length is 32000 2020-10-26 09:36:29.%f dataloader.py:106[27649] INFO Training epoch length is 1000 2020-10-26 09:36:29.%f dataloader.py:152[27649] INFO Testing set length is 8000

SiaStg commented 4 years ago

客气客气

不建议用2080/2080Ti哦 “GeForce RTX™ 2080 Ti 是 NVIDIA 全新推出的旗舰款显卡,其在游戏逼真度和性能表现方面堪称革命性的技术创举。”

能否方便用搭载其他计算资源的机器试一下呢？

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月27日(星期二) 下午4:01 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

非常感谢您的回复！！！ 我使用的GPU型号为 GeForece RTX 2080Ti，应该不存在使用游戏显卡进行训练的问题。

以下具体描述一下本人的实验的相关配置，以及目前的实验结果。

SiaStg commented 4 years ago

可能说2080ti更适合打游戏太武断啦！

不过之前有小伙伴也反馈过类似的问题，复现的结果是确实2080ti不行，猜测是浮点计算精度可能不够？ 因为该任务可能对精度有很高的要求，后续尝试过两种解决方案都可以： （1）用一个预训练模型带一下，就可以收敛了 （2）换不是2080ti的机器

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月27日(星期二) 下午4:01 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

非常感谢您的回复！！！ 我使用的GPU型号为 GeForece RTX 2080Ti，应该不存在使用游戏显卡进行训练的问题。

以下具体描述一下本人的实验的相关配置，以及目前的实验结果。

yiwliu commented 4 years ago

非常感谢您的回复。 我再使用1080Ti和Tesla V100试一试。如果有结果就联系您。

万分感谢！！！

SiaStg commented 4 years ago

好的！推荐使用算力更高的V100 祝顺利！:)

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月27日(星期二) 下午4:21 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

非常感谢您的回复。 我再使用1080Ti和Tesla V100试一试。如果有结果就联系您。

万分感谢！！！

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

gongchensz commented 4 years ago

It is a wonderful wok~surprising!

yiwliu commented 4 years ago

作者您好：

您说的两种方法我都有尝试： 我尝试使用了 【（1）用一个预训练模型带一下，就可以收敛了 】发现模型的确是收敛了，但是最终收敛的效果可能还有一定的差距。目前训练集的结果大概80%多，测试集合也80%左右（s-uniward 0.4） 【（2）换不是2080ti的机器】，我使用了tesla v100进行训练，但是训练的结果还是50%不收敛。

对于目前的结果，有一些希望作者您提供的帮助！！！ 1.非常希望作者您能提供一下您数据集构造的方法（尤其是stego数据集），以及使用的机器型号，我将在学校尝试寻找一样的机器进行训练。 2.对于您提到的使用预训练的模型带一下，非常希望您能在为我指定数据集构造方法后提供一个您曾经训练好的模型，我来尝试带动训练。

感谢作者一直以来的回复。万分感谢！

可能说2080ti更适合打游戏太武断啦！ 不过之前有小伙伴也反馈过类似的问题，复现的结果是确实2080ti不行，猜测是浮点计算精度可能不够？ 因为该任务可能对精度有很高的要求，后续尝试过两种解决方案都可以： （1）用一个预训练模型带一下，就可以收敛了 （2）换不是2080ti的机器 祝好！

SiaStg commented 4 years ago

您好！ 我重新阅读了您的实验配置： 1.我们对stego的制作方式相同，都使用了Fridrich老师的代码，机器型号应该无关 2.当前github展示代码中的默认超参数都是针对训练集为BOSSbase的；对于混合BOWS的训练集，可能超参数要进行微调。 您能否方便Train中先只使用BOSSbase库图片，“【（2）换不是2080ti的机器】，使用了tesla v100进行训练”，看看效果呢？这样可能方便排查一些问题。

之前训练好的模型将随后上传

非常抱歉给您的研究工作带来困扰！我也感到很奇怪，s-uniward 0.4较易检测，复现了很多次，按理来说不应该出问题。

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月30日(星期五) 下午2:54 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

作者您好：

您说的两种方法我都有尝试： 我尝试使用了 【（1）用一个预训练模型带一下，就可以收敛了 】发现模型的确是收敛了，但是最终收敛的效果可能还有一定的差距。目前训练集的结果大概80%多，测试集合也80%左右（s-uniward 0.4） 【（2）换不是2080ti的机器】，我使用了tesla v100进行训练，但是训练的结果还是50%不收敛。

对于目前的结果，有一些希望作者您提供的帮助！！！ 1.非常希望作者您能提供一下您数据集构造的方法（尤其是stego数据集），以及使用的机器型号，我将在学校尝试寻找一样的机器进行训练。 2.对于您提到的使用预训练的模型带一下，非常希望您能在为我指定数据集构造方法后提供一个您曾经训练好的模型，我来尝试带动训练。

感谢作者一直以来的回复。万分感谢！

可能说2080ti更适合打游戏太武断啦！ 不过之前有小伙伴也反馈过类似的问题，复现的结果是确实2080ti不行，猜测是浮点计算精度可能不够？ 因为该任务可能对精度有很高的要求，后续尝试过两种解决方案都可以： （1）用一个预训练模型带一下，就可以收敛了 （2）换不是2080ti的机器 祝好！

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 4 years ago

您好！ 我重新阅读了您的实验配置： 1.我们对stego的制作方式相同，都使用了Fridrich老师的代码，机器型号应该无关 2.当前github展示代码中的默认超参数都是针对训练集为BOSSbase的；对于混合BOWS的训练集，可能超参数要进行微调。 您能否方便Train中先只使用BOSSbase库图片，“【（2）换不是2080ti的机器】，使用了tesla v100进行训练”，看看效果呢？这样可能方便排查一些问题。 之前训练好的模型将随后上传 非常抱歉给您的研究工作带来困扰！我也感到很奇怪，s-uniward 0.4较易检测，复现了很多次，按理来说不应该出问题。 祝好！ … ------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年10月30日(星期五) 下午2:54 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1) 作者您好： 您说的两种方法我都有尝试： 我尝试使用了 【（1）用一个预训练模型带一下，就可以收敛了 】发现模型的确是收敛了，但是最终收敛的效果可能还有一定的差距。目前训练集的结果大概80%多，测试集合也80%左右（s-uniward 0.4） 【（2）换不是2080ti的机器】，我使用了tesla v100进行训练，但是训练的结果还是50%不收敛。 对于目前的结果，有一些希望作者您提供的帮助！！！ 1.非常希望作者您能提供一下您数据集构造的方法（尤其是stego数据集），以及使用的机器型号，我将在学校尝试寻找一样的机器进行训练。 2.对于您提到的使用预训练的模型带一下，非常希望您能在为我指定数据集构造方法后提供一个您曾经训练好的模型，我来尝试带动训练。 感谢作者一直以来的回复。万分感谢！ 可能说2080ti更适合打游戏太武断啦！ 不过之前有小伙伴也反馈过类似的问题，复现的结果是确实2080ti不行，猜测是浮点计算精度可能不够？ 因为该任务可能对精度有很高的要求，后续尝试过两种解决方案都可以： （1）用一个预训练模型带一下，就可以收敛了 （2）换不是2080ti的机器 祝好！ — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

非常感谢您的回复！！！我再按照您的指导进行一些尝试。感谢一直以来的支持

yiwliu commented 4 years ago

您好，按照您的指导 我是用BOSSbase的前6000张图片作为训练cover，生成对应的s-uniward 0.4 stego 用6000-9000张图像作为valid cover，生成对应的stego

使用 tesla V100 训练，学习率策略使用您默认的配置 第二种学习率设置。不使用反转，切割图像等预处理，不生成增强数据集。

实验的结果依旧是无法有效收敛，可能预训练模型对于网络收敛具有比较大的指导作用。 如果您的预训练模型测试好了，能不能给我使用一下，非常感谢。

以下是训练第500epoch的结果

QQ截图20201102151404

SiaStg commented 4 years ago

您好！确实没有遇到这种奇怪的情况

您有试过这些样本跑其他的模型，比如SRNet，可以正常收敛对吗？

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月2日(星期一) 下午3:24 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

您好，按照您的指导 我是用BOSSbase的前6000张图片作为训练cover，生成对应的s-uniward 0.4 stego 用6000-9000张图像作为cover，生成对应的stego

使用 tesla V100 训练，学习率策略使用您默认的配置 第二种学习率设置。不使用反转，切割图像等预处理，不生成增强数据集。

实验的结果依旧是无法有效收敛，可能预训练模型对于网络收敛具有比较大的指导作用。 如果您的预训练模型测试好了，能不能给我使用一下，非常感谢。

以下是训练第500epoch的结果

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 4 years ago

您好，使用这些数据集合构造的样本。 关于这些数据集应用于SRNet的问题（我也经过多次实验，但是好像效果也有一些问题）

  1. 使用SRNet网络（tensorflow版本，由fridrich官网提供），默认配置，使用SRNet_Example.py（启动网络训练过程），使用BOWS 10000张，BOSSbase 6000张，作为train cover， 生成对应 train stego。 使用BOSSbase 剩下4000张作为 valid cover，生成对应stego作为 valid stego。

训练结果如下： image 由上图可见，在train set的时候，loss和acc是正常的 但是： image 在验证集上，检测器的检测出现了一些问题。目前也没有解决。如果您有好的SRNet的实验复现方法，能不能也简单指导一下，非常感激！！！

  1. 使用您的网络train part（略微修改，数据的preprocess函数），使用SRNet网络来自（https://github.com/brijeshiitg/Pytorch-implementation-of-SRNet）。 使用数据集同上，训练结果为不收敛，可以参见issue（https://github.com/brijeshiitg/Pytorch-implementation-of-SRNet/issues/5， 好像有很多人提出了这个问题，原作者说需要使用数据增强，不增强没有用，最近准备尝试一下）
SiaStg commented 4 years ago

Em。。。 我觉得如果是这样的话！ 我们首先要理清一下样本是不是有什么问题，我这边直接跑SRNet，不进行数据增强，训练和验证也都是没问题的。（也或许我的样本和SRNet原作者出现了相同特征？

制备样本是使用的matlab代码吗?还是C++？

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 上午9:21 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

您好，使用这些数据集合构造的样本。 关于这些数据集应用于SRNet的问题（我也经过多次实验，但是好像效果也有一些问题）

使用SRNet网络（tensorflow版本，由fridrich官网提供），默认配置，使用SRNet_Example.py（启动网络训练过程），使用BOWS 10000张，BOSSbase 6000张，作为train cover， 生成对应 train stego。 使用BOSSbase 剩下4000张作为 valid cover，生成对应stego作为 valid stego。

训练结果如下：

由上图可见，在train set的时候，loss和acc是正常的 但是：

在验证集上，检测器的检测出现了一些问题。目前也没有解决。

使用您的网络train part（略微修改，数据的preprocess函数），使用SRNet网络来自（https://github.com/brijeshiitg/Pytorch-implementation-of-SRNet）。**使用数据集同上**，训练结果为**_不收敛_**，可以参见issue（https://github.com/brijeshiitg/Pytorch-implementation-of-SRNet/issues/5， 好像有很多人提出了这个问题，原作者说需要使用数据增强，不增强没有用，最近准备尝试一下）

关于本人实验数据集的问题，我是用可视化观察嵌入率改变的cover与stego的残差，编写脚本随机选择一个图像进行测试。 以下显示几个测试结果（本人实验感觉嵌入应该是没有问题，数据集构造应该是正常的） 由左到右依次为 0.1 .2 .3 .4 .5 嵌入率的残差，s，m分别表示标准差和均值，图像上面的标题表示了使用的算法

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 4 years ago

您好！ 我使用的是C++的代码进行样本的制作。

也或许我的样本和SRNet原作者出现了相同特征

有一些帮助，如果您愿意提供将不胜感激

  1. 您好能不能把当时的SRNet实验数据，给我copy一份？
  2. 或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢）

关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式

如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！

SiaStg commented 4 years ago

这就对了！ 不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文

我建议先使用binghamton实验室的matlab的代码重新生成实验图片重新尝试。（注意，是子函数也是matlab代码的matlab生成方式

我这边能分享的实验数据很多，不过最好是能够直接在您那边跑通呀！

祝好

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:28 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

您好！ 我使用的是C++的代码进行样本的制作。

也或许我的样本和SRNet原作者出现了相同特征

有一些帮助，如果您愿意提供将不胜感激

您好能不能把当时的SRNet实验数据，给我copy一份？

或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢）

关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式

如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 4 years ago

好的 感谢您的指导

SiaStg commented 4 years ago

客气！！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:43 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

好的 感谢您的指导

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

yiwliu commented 3 years ago

您好，我的问题得到了解决，解决过程中您 提供的帮助本人表示非常感谢！

关于最后训练的情况： 另外 最后一次我用 2080Ti 训练您的SiaStegNet，一次成功！ SRNet官网的tf网络在tesla上也取得与原论文相近的结果！

不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文

关于您上述，本人还有一个疑问，我想知道这篇论文的名称，去学习一下为什么会出现这种情况！感谢

SiaStg commented 3 years ago

太棒啦！ 客气

论文的名字是 Deep learning is a good steganalysis tool when embedding key is reused for different images, even if there is a cover sourcemismatch

和 Steganalysis via a Convolutional Neural Network using Large Convolution Filters for Embedding Process with Same Stego Key （不过论文里似乎没有明确指出是那份C++代码的问题）

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月4日(星期三) 上午9:24 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

您好，我的问题得到了解决，解决过程中您 提供的帮助本人表示非常感谢！

另外 最后一次我用 2080Ti 训练，一次成功！ SRNet官网的tf网络在tesla上也取得与原论文相近的结果！

不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文 关于您上述，本人还有一个疑问，我想知道这篇论文的名称，去学习一下为什么会出现这种情况！感谢

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

zzb112233 commented 3 years ago

您好，我的问题得到了解决，解决过程中您 提供的帮助本人表示非常感谢！

关于最后训练的情况： 另外 最后一次我用 2080Ti 训练您的SiaStegNet，一次成功！ SRNet官网的tf网络在tesla上也取得与原论文相近的结果！

不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文

关于您上述，本人还有一个疑问，我想知道这篇论文的名称，去学习一下为什么会出现这种情况！感谢

你好，我也遇到了和你相似的情况。所以训练不收敛以及SRNet tensorflow版本验证集很抖动的原因都是因为使用了Jessica网站提供的C++Win版本的S-UNIWARD.zip来生成stego图像吗，用matlab版本生成stego图像就可以解决了吗？另外，请问一下SRNet的pytorch版本您可以成功收敛了吗？

很困扰，期待回复，祝好！

SiaStg commented 3 years ago

你好！ 很高兴您对我的研究成果感兴趣！

1.训练不收敛以及SRNet tensorflow版本验证集很抖动的原因都是因为使用了Jessica网站提供的C++Win版本的S-UNIWARD.zip来生成stego图像吗，用matlab版本生成stego图像就可以解决了吗？ 有很大的可能，但是也不一定！如果用matlab版本生成stego图像还不可以解决，您可以新开一个issue我跟您一起排查问题。

2.SRNet的pytorch版本您可以成功收敛了吗？ 在进行对照实验时，我为了保证和原作者效果相同，使用了tensorflow的原版代码。或许有效的SRNet的pytorch版本可以在https://github.com/brijeshiitg/Pytorch-implementation-of-SRNet获取。

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月13日(星期五) 下午4:36 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

您好，我的问题得到了解决，解决过程中您 提供的帮助本人表示非常感谢！

关于最后训练的情况： 另外 最后一次我用 2080Ti 训练您的SiaStegNet，一次成功！ SRNet官网的tf网络在tesla上也取得与原论文相近的结果！

不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文

关于您上述，本人还有一个疑问，我想知道这篇论文的名称，去学习一下为什么会出现这种情况！感谢

你好，我也遇到了和你相似的情况。所以训练不收敛以及SRNet tensorflow版本验证集很抖动的原因都是因为使用了Jessica网站提供的C++Win版本的S-UNIWARD.zip来生成stego图像吗，用matlab版本生成stego图像就可以解决了吗？另外，请问一下SRNet的pytorch版本您可以成功收敛了吗？

很困扰，期待回复，祝好！

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

zzb112233 commented 3 years ago

感谢您的回复！目前打算试一下用matlab版本生成stego图像试试。

在SRNet论文中在检测S-UNIWARD0.4bpp的时候，他的准确率是0.8977，在您的论文中复现结果为92.22吗？我跑SRNet tensorflow版本的时候准确率只有0.74啊 T.T （训练集：0.9280 验证集：0.8050 测试集：Accuracy: 0.7435003 | Loss: 30.671312）。

我目前就是根据brijeshiitg这个代码在训练SRNet pytorch版本。但由于他没有提供训练代码，我的训练效果S-UNIWARD0.4bpp只能达到0.84，而且在前100epoch左右loss一直为0.69，后面才下降。

我是用的数据集均为BOSSBASE（训练：5000对，验证1000对，测试4000对）

SiaStg commented 3 years ago

brijeshiitg好像说想要训练代码可以给他发邮件，您可以试试哈哈。 论文中复现的结果都是复现了好多次啦，应该木有什么问题

祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月13日(星期五) 下午5:38 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

感谢您的回复！目前打算试一下用matlab版本生成stego图像试试。

在SRNet论文中在检测S-UNIWARD0.4bpp的时候，他的准确率是0.8977，在您的论文中复现结果为92.22吗？我跑SRNet tensorflow版本的时候准确率只有0.74啊 T.T （训练集：0.9280 验证集：0.8050 测试集：Accuracy: 0.7435003 | Loss: 30.671312）。

我目前就是根据brijeshiitg这个代码在训练SRNet pytorch版本。但由于他没有提供训练代码，我的训练效果S-UNIWARD0.4bpp只能达到0.84，而且在前100epoch左右loss一直为0.69，后面才下降。

我是用的数据集均为BOSSBASE（训练：5000对，验证1000对，测试4000对）

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

zzb112233 commented 3 years ago

感谢帮助！我去试试，祝好！

zzb112233 commented 3 years ago

作者您好，请问HILL的代码是在哪里有呢？请问您知道除了Jessica的网站还有其他学习资料库嘛？

感谢！

zzb112233 commented 3 years ago

这就对了！ 不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文 我建议先使用binghamton实验室的matlab的代码重新生成实验图片重新尝试。（注意，是子函数也是matlab代码的matlab生成方式 我这边能分享的实验数据很多，不过最好是能够直接在您那边跑通呀！ 祝好 … ------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:28 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1) 您好！ 我使用的是C++的代码进行样本的制作。 也或许我的样本和SRNet原作者出现了相同特征 有一些帮助，如果您愿意提供将不胜感激 您好能不能把当时的SRNet实验数据，给我copy一份？ 或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢） 关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式 如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！ — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

这就对了！ 不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文 我建议先使用binghamton实验室的matlab的代码重新生成实验图片重新尝试。（注意，是子函数也是matlab代码的matlab生成方式 我这边能分享的实验数据很多，不过最好是能够直接在您那边跑通呀！ 祝好 … ------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:28 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1) 您好！ 我使用的是C++的代码进行样本的制作。 也或许我的样本和SRNet原作者出现了相同特征 有一些帮助，如果您愿意提供将不胜感激 您好能不能把当时的SRNet实验数据，给我copy一份？ 或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢） 关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式 如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！ — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

您好，我重新用matlab生成了stego数据集用来训练SRNet。结果十分奇怪：第一个epoch就直接val_acc=0.991,loss=0.024。拿这个模型去测试Acc也直接高达0.99。怀疑自己。。。

SiaStg commented 3 years ago

哈哈哈哈哈这……应该是有问题哦 再检查一下图片数据 祝好！

------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月20日(星期五) 上午9:51 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1)

这就对了！ 不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文 我建议先使用binghamton实验室的matlab的代码重新生成实验图片重新尝试。（注意，是子函数也是matlab代码的matlab生成方式 我这边能分享的实验数据很多，不过最好是能够直接在您那边跑通呀！ 祝好 … ------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:28 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1) 您好！ 我使用的是C++的代码进行样本的制作。 也或许我的样本和SRNet原作者出现了相同特征 有一些帮助，如果您愿意提供将不胜感激 您好能不能把当时的SRNet实验数据，给我copy一份？ 或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢） 关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式 如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！ — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

这就对了！ 不要用那份binghamton实验室的C++的代码 有点问题！（该问题之前被写成过论文 我建议先使用binghamton实验室的matlab的代码重新生成实验图片重新尝试。（注意，是子函数也是matlab代码的matlab生成方式 我这边能分享的实验数据很多，不过最好是能够直接在您那边跑通呀！ 祝好 … ------------------ 原始邮件 ------------------ 发件人: "SiaStg/SiaStegNet" <notifications@github.com>; 发送时间: 2020年11月3日(星期二) 下午4:28 收件人: "SiaStg/SiaStegNet"<SiaStegNet@noreply.github.com>; 抄送: "可可"<2622679282@qq.com>;"Comment"<comment@noreply.github.com>; 主题: Re: [SiaStg/SiaStegNet] 关于具体如何训练 (#1) 您好！ 我使用的是C++的代码进行样本的制作。 也或许我的样本和SRNet原作者出现了相同特征 有一些帮助，如果您愿意提供将不胜感激 您好能不能把当时的SRNet实验数据，给我copy一份？ 或者您是如何生成您的数据的（如果有数据构建脚本能够分享，感谢） 关于如何传递数据集、或文件 1.本人可以提供一个公网IP，您可以通过一个临时账户使用scp等命令进行上传，如果需要ftp服务，我也可以帮忙开启 2.可以通过添加QQ好友等进行数据传递 3.通过线上网盘进行数据分享 4.其他您愿意的方式 如果您愿意提供帮助，请告诉我您愿意怎样提供数据，不胜感激！ — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.

您好，我重新用matlab生成了stego数据集。结果十分奇怪：第一个epoch就直接val_acc=0.991,loss=0.024。拿这个模型去测试Acc也直接高达0.99。怀疑自己。。。

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe.