张潇

个人资料

邮箱:xiao_zhang@hust.edu.cn

GitHub: https://github.com/ZhangXiao96

个人主页:https://zhangxiao96.github.io/

CSDN博客:https://blog.csdn.net/z_x_1996

教育经历

2018-2021 华中科技大学,人工智能与自动化学院,硕士

2014-2018 华中科技大学,光学与电子信息学院,本科

研究方向

神经网络的泛化与记忆,脑机接口中的安全问题,对抗样本

发表论文

  1. X. Zhang and D. Wu, “Empirical Studies on the Properties of Linear Regions in Deep Neural Networks,” in Proc. Int’l Conf. on Learning Representations (ICLR), Addis Ababa, Ethiopia, April 2020.
  2. X. Zhang and D. Wu, “Rethink the Connections among Generalization, Memorization and the Spectral Bias of DNNs,” arXiv: 2004.13954, 2020.
  3. X. Zhang, D. Wu, L. Ding, H. Luo, C-T Lin, T-P Jung, R. Chavarriaga, “Tiny Noise Can Make an EEG-Based Brain-Computer Interface Speller Output Anything,” National Science Review, 2020, Accepted.
  4. X. Zhang and D. Wu, “On the Vulnerability of CNN Classifiers in EEG-Based BCIs,” IEEE Trans. on Neural Systems and Rehabilitation Engineering, vol. 27, no. 5, pp. 814-825, 2019.
  5. Z. Liu*, X. Zhang*, L. Meng, D. Wu, “Universal Adversarial Perturbations for CNN Classifiers in EEG-Based BCIs,” IEEE Trans. on Neural Systems and Rehabilitation Engineering, 2020, Submitted.
  6. X. Jiang, X. Zhang, D. Wu, “Active Learning for Black-Box Adversarial Attacks in EEG-Based Brain-Computer Interfaces,” IEEE Symposium Series on Computational Intelligence, Xiamen, China, December 2019.

获奖经历

  1. 2020 汇顶科技奖学金
  2. 2019 研究生国家奖学金
  3. 2019 世界机器人大赛-中国脑机接口比赛一等奖
  4. 2018 IEEE WCCI Open Source Intelligence Discovery for Cybersecurity Threat 第一名
  5. 2018 第一届深圳医疗健康大数据创新应用国际大赛标准组三等奖

Empirical Studies on the Properties of Linear Regions in Deep Neural Networks

ICLR 2020

使用分段线性激活函数的神经网络能够把输出空间切分为不同小的线性区域。而在每个这样的小区域内,神经网络为完全的线性函数。这篇文章提供了一个新颖而细致的视角去分析神经网络:与之前只是计算线性区域数量不同,我们研究了这些区域的一些局部特性,发现不同的优化技巧会导致完全不同的线性区域。

Slider

On the Vulnerability of CNN Classifiers in EEG-Based BCIs

TNSRE 2019

我们发现基于EEG的脑机接口系统中常用的神经网络模型并不鲁棒。通过构建极其微弱的扰动噪声,我们就可以操控脑机接口的输出。我们通过实验发现,攻击者在完全知道模型信息、知道部分信息、只能获得脑机接口输出这三种情况都有可能攻击成功。该研究强调了目前脑机接口中可能出现的安全隐患,需要该领域特别的关注。

Slider