字:
关灯 护眼
啃文书库 / 未分类 / 在海外读博的日子每天想的是什么 / 第五章:NN 矫正、不用 residual 的测试(1/1)

第五章:NN 矫正、不用 residual 的测试(1/1)

章节出错了,点此刷新,刷新后小编会在两分钟内校正章节内容,请稍后再试。

  11点醒,我觉得我这个作息短时间内没法变了。刚才十点醒了一次,哪怕已经睡了八小时了但还是困,就非得到11点才清醒。害。
  现在去上个厕所,吃个饭,一会去学校,今天她约我一起学习,晚上健个身。今天有个重要的事情,就是思考怎么让NN生成靠谱的residual,这样就能提高我的performance了。现在出发去上厕所!
  到学校了,妈的快期末了这么卷,找个座位都这么麻烦。快2点了才上桌。而且午餐没吃多少,肚子感觉有点饿。不管那么多了,先学习再说。现在思考最重要的问题,如何让NN产生靠谱的prediction,我记得是叫calibration,我去搜搜看。
  师兄说先搞一个不用residual的版本,看看residual的牛逼之处,我觉得有道理,我起名叫就叫c01好了,这样要多写几行代码,手动那个啥一下。在跑了,那现在回过头看那个calibration去。
  跑了下01版本的,发现在realworld数据集上居然比residual还好,看来k的选择很重要,我觉得k=5属实是太大了,我选个小的试试。
  1.现在发现每个chunk调整就会非常牛逼,所以先别管别的,先把之前的chi重新跑一下,然后结果也懒得删除之前的了,直接覆盖,取best算了,算了不太好,还是重新跑一下吧。反正看search文件夹里什么没有就重新跑什么。
  2.那我现在继续看calibration。
  和她去KFC买了吃的,她心里惦记着作业没心情慢慢吃,所以就带着吃的上火车回家去了。我虽然想跟她在多呆一会,但是我也知道让她早点回去写作业是正确的事情。贪一时享乐只会给未来我的我们留下更多不快乐,比如作业没写完。所以我知道让她回去是正确的。吃了饭,回学校学一会,一会去gym健身去。
  在健身房,困得要死,卧推,一会练背,一会练腿,然后练腹肌,看情况跑个步,撤。不想学了,回家休息去。
  实验证明,在NN下,用residual比如用0-1error,但是GNB下用residual比0-1error好,可见GNB确实比NN提供的residual更准确。OK,现在继续看那个论文,研究calibration的事情。
  GNNcalibration有好几个要点
  1.CAGCN的输入是logits,输出是temperaturescale,这样可以保证order,网络结构是根据传播logits这一思想来设计的,因为假设是confidence应该和领居节点的同类情况相关,同类邻居越多越confident。目标函数是让正确分类的maxconfidence-secondmaxconfidence尽量大,错分类尽量小。
  先不管了,想不进去了。她今晚卷到12点还在学习,为了最近的due真的是太拼了。我就边打lol边跟她语音等她好了。她意外的很能接受,我很惊喜。
  她真好。
  
热门推荐