General

• fast.ai 高质量无广告公开课

NLP

• Standford CS224

• train loss 不断下降，validation loss不断下降，说明网络仍在学习;
• train loss 不断下降，validation loss趋于不变，说明网络过拟合;
• train loss 趋于不变，validation loss不断下降，说明数据集100%有问题;
• train loss 趋于不变，validation loss趋于不变，说明学习遇到瓶颈，需要减小 Learning Rate 或 Batch Size;
• train loss 不断上升，validation loss不断上升，说明网络结构设计不当，训练超参数设置不当，数据集清洗不当等问题。

简单来说

• Tensorboard可以对静态的图结构和动态的训练结果（accuracy， loss）等进行可视化
• Tensorboard是通过将数据写入到本地的log文件中，再以本地web的方式呈现

希望自己能够成为一个坚持写博客的人。慢慢地，博文多了，一套好的命名规范就显得很重要，在这里写下自己的博客命名规范。

更新日期 2018-12-30

一些较为高级的文件操作（诸如统计行数，打乱内容）都可以利用shell命令快速的完成。这里记录自己用过的shell命令。

Mac OS 和Linux都是类Unix系统，许多命令都是一样的。但是有一些命令，比如shuf，就只有Linux有，Mac可以通过安装coreutils来解决

1

brew install coreutils

安装之后可以用gshuf命令来实现和Linux下shuf相同的功能

基本用法

1
2
3
4
5
6
7
8
9
10
11
12
13
14

import logging # 导入logging模块
logging.basicConfig( # 配置logging模块
	level=logging.INFO,
	format='%(asctime)s  %(levelname)s  %(message)s',
)
# 用法1：使用默认logger
logging.info('this is info message') # 输出info级消息
# 用法2：自定义logger的名字
logger = logging.getLogger('mylogger')
logger.info('this is info message from mylogger')

# 输出
# 2018-07-01 18:49:36,170   INFO   this is a info
# 2018-07-01 18:49:36,170   INFO   this is a info from mylogger

1

numpy.array(a).reshape(n,n)

参考

• python将一维数组变成二维? - 知乎

可以采用df.iterrows()函数

设有如下df

1
2

    target    text
0   1     "blahblah"

则遍历方式如下

1
2
3

for index, row in df.iterrows():
	print(index) # 0
	print(row["target"]) # 1

• hangsz的pandas教程
• 官方教程