第20期人工智能前沿学生论坛(SFFAI)—师姐交流会。
References
IEEE WIE(Women In Engineer)是全球最大的致力于支持和帮助女性参加工程和科学领域,鼓励女性从事工程事业的国际组织之一,旨在推动女性在管理中发挥领导作用,帮助女性在产业界和学术界实现更好的发展。
简述
本次论坛主要讲述的是学姐们的博士生活、科研经验和论文阅读、写作等技巧。
王少楠 博士生活杂谈
助理研究员。自然语言处理。
读博五年。
课题选择(博士第一年 学习)
选题:
- 篇章分析
- 情感分析
- 借鉴认知神经科学的自然语言处理方法
调研和咨询(内容、发展情况)
个人情况(兴趣、工作)
作出决定(即将成为热点的问题,高风险,做好不被承认的准备)
调研-交叉学科(博士第二年)
认知神经科学
- 研究人脑活动的科学
- 感知觉……
自然语言处理
- 实现人与计算机之间用自然语言进行有效沟通的各种理论和方法
- 机器翻译、问答系统、人机对话、文本分类、情感分析……
五大重要步骤:沟通——实践——教材——论文——上课。
越来越忙的时候,大部分时候都需要通过沟通来获取知识。
研究问题 (博士第三年)
借鉴认知神经科学的自然语言处理方法。
- 找到一个研究问题!
- 目标是解决自然语言处理任务,以自然语言任务出发,设计认知神经科学实验,验证某个结论,提升模型性能
选定任务:
- 词义消歧任务:张三很关心自己的仪表
- 自然语言处理:语境、词频?
- 认知神经科学;上下文约束。
特征工程:
- 对于某一个词,选择最重要的一类特征
发表第一篇论文(博士第三年后期,压力骤增)
改变研究方向:(转而求其次)
- 不作认知实验,借鉴已有结论,改进词义消歧模型
- 发表 ——> 中文信息学报
- 初稿-修改-修改-……-修改-投稿-……(过程曲折)
排解压力:
- 转移注意力
- 均衡
方向延伸
自然语言处理的深度学习开始流行。
(词义消歧——语义分析——语义表征)
词汇表示模型:
- NLP:Word2vec
- 认知神经科学:词分解为可解释的特征
如何结合不可解释的vec
和可解释的认知特征?(查阅文献,发现被研究过了)
- 特征组合——更好的词汇表示模型
第一个像样工作
句子表示模型:
- 注意力机制(attention):选择性的注视和跳读
人类注意力机制启发的句子表示模型(效果特别好)
- 投稿
AAAI
,被打回,修改后投稿UCAI 2017
高分录用 - 规律:只要投过一个高分,投其它期刊比较容易中
- 文章:
- 重要性, 与已有工作联系和区别,文章逻辑关系,用词语法
- 讲故事简洁移动
- Trick: google “ ” /grammarly(语法检查)
- 推荐:机器翻译学术论文写作方法与技巧(刘洋)
第一次出国开会。(墨尔本)好玩。
灵感涌现 (博士第四年)
融合字符信息的中文句子表示 EMNLP-2017
融合字符信息的中文句子表示(拓展) TALLIP-2018
多模态词汇表示方法 AAAI-2018
多模态词汇表示方法和可解释性……
工作选择(博士第五年)
- 出国读博士后:眼界、难度
- 留所工作:科研、自由、钱少
- 互联网公司:价值、(被动)累、约束
自由、成就感、新鲜感。
毕业旅行……
遗憾:
- 去企业实习
- 出国访问
- 假期旅行
- ……
学生$\longrightarrow$老师(毕业)
研究内容:转向认知神经科学
心态:学问压力$\longrightarrow$学术压力
辅导学生:耐心
团队工作:独立$\longrightarrow$合作
研究所招聘制度
- 2018.1 岗位答辩(户口指标)
- 2018.5 毕业答辩
- 2018.12 拿到户口
- 2018.12 青促会答辩(初始资金支持)
- 2019.3 自然科学青年基金
- 2010.11 副研究员岗位申请
李祎 科研经历分享和交流
中科院自动化所在读博士。
交流
结合深度学习开拓新方向?(遥感+DL)
- 具体任务:语义分割(遥感影像)
- 读博???
个人简介
硕士:图像语义分割,CRF……像素级别的标注问题
- 团队积累少
博士:图像生成、深度生成模型(1篇会议、1篇期刊、1个数据库)
- 人脸去妆和素颜化妆
- 导师高瞻远瞩
科研方向选择
决定
- 个人想法
- 导师指定
- 犹豫……
- 备选清单
- 自己感兴趣的
- 符合发展潮流的
- 能有人交流的(不必担心,多交流)
- 能坚持住的(不必怀疑)
- ……
变换
- 能不能换
- 博士入学
- 为什么换
- 符合小组方向
- 换什么
- 图像生成
- 怎么换
入门与知识积累
硕士
- 小团队共同学习
- 各方面能力提升
- 资料检索、论文阅读(分享)、公式推导、代码实现、PPT制作、演讲……
可以搞定
的自信心
- 资料检索、论文阅读(分享)、公式推导、代码实现、PPT制作、演讲……
- 合作、严谨、归纳、交流
博士
- 跟师兄师姐请教
- 自己搞不定再问
- 重视交流质量(大家其实都很忙,
输入
+输出
) - 记录、整理,跟上节奏
积累
- 培养思维方式(逻辑思维……)
- 综合能力提升
- 开阔视野,触类旁通
- 选还是不选是其次,有得选才是最重要的
- 良好的科研习惯
- 多阅读、多思考、多总结、多尝试、多讨论
- 每天刷arXiv,泛读+精读
- 追踪团队,看清潮流
- 笔记与总结(
OneNote
,周报+月度回顾) - 发现问题,结局问题,撰写论文
论文撰写与投稿
- 认清目标,早做打算,严格执行,适时调整
- 从审稿中学习,自学
tex
- 从模仿(大牛作品,相关文献)到熟练
- 论文撰写,举个例子
- 想要往哪里投稿:
- 期刊or会议?什么主题?什么风格?
- 创新点定基调
- Introduction:
- 分析问题,捋顺逻辑,先结构后文字
- 原理框图
XMind
/Visio
:(对理解很有帮助)- 思路清晰,有美感
- 方法正文:
- 符号明确,公式简洁,前因后果
- 实验分析:
- 可复现,图表设计,分析详尽
- 摘要与结论:
- 二者不同
- 参考文献:
- 善用
tex
,与正文同步进行
- 善用
- 想要往哪里投稿:
- 初稿:麻雀虽小,五脏俱全
- 反复修改,不断充实
- 地道表达,起承转合
- 注重细节,不犯低级错误
科研与生活的平衡
- 与压力和平共处
- 张持有度,高效休息
- 一分耕耘一分收获
- 生活不只是科研
- Making friends
- Enjoying interests
- Having trips
- Falling in love
- ……
考月英 科研经历与工作经验分享
三星电子中国研究院。(招实习生等,投递简历: yueying.kao@samsung.com)
研究方向:深度学习及其在计算机视觉中的应用
发表论文:UCAI,TIP等
硕博选择
- 了解区别
- 多多咨询
- 确定自身特点,个人经历
- 预见未来
- 不后悔
科研方向的确定
- 大方向:导师
- 小方向:全面了解
- 研究方向
- 个人经历
- 研究点
研究入门
实现并总结现有方法的优点和不足
针对不足能提出自己的看法
设计可实现的方法
能够查阅文献、讨论,解决实现过程的新问题
得到预期的效果
将这些过程总结成文,然后投稿
个人的第一篇论文SPIE
论文撰写
- 广泛阅读论文,尤其是顶会论文
- 借鉴优秀论文的写作思路及英文用法
- 无论如何写出第一版
- 这样才能请别人修改
- 尽可能多地找人帮忙提出存在的问题
- 正视所有问题,修改文章
- 文章框架、逻辑等没有大问题后,从头到尾修改语法问题
投稿
- 确定适合自己的会议及topic
- 也可以先投稿比自己预估的更好的期刊或会议
可以试试水
还可以拿到比较专业的review - Rebuttal
确保文章的创新、有效、完整
求职
多总结职业路线
- 科研路线
- 创业路线
- 企业路线
- 不确定方向,就先都准备着
企业路线
- 刷题 LeetCode
- 简历 竞赛,文章,专利,获奖,实习(硕士)等很重要
- 投递简历最好内推
- 面试要有自信,自己的东西一定要清楚
- 多了解职位信息
- 双向面试
- 尽可能多面试
- 选择
- Follow your heart!
- 公司最关心的是你能干多少活。
- 投递简历: yueying.kao@samsung.com
下次论坛: 数据挖掘(包含时间序列)