十五、Python计算生态概览

1.从数据处理到人工智能

数据表示 -> 数据清洗 -> 数据统计 -> 数据可视化 -> 数据挖掘 -> 人工智能

-数据表示：采用合适方式用程序表达数据

-数据清洗：数据归一化、数据转换、异常值处理

-数据统计：数据的概要理解，数量、分布、中位数等

-数据可视化：值观展示数据内涵的方式

-数据挖掘：从数据分析获得知识，产生数据外的价值

-人工智能：数据/语言/图像/视觉等方面深度分析与决策

（1）数据分析：Numpy库  http://www.numpy.org/

-Python接口使用，C语言实现，计算速度优异

-Python数据分析及科学计算的基础库，支撑Pandas等

-提供直接的矩阵运算、广播函数、线性代数等功能

（2）数据分析：Pandas库：Python数据分析高层次应用库 http://pandas.pydata.org/

-提供了简单易用的数据结构和数据分析工具

-理解数据类型与索引的关系，操作索引及操作数据

-Python最主要的数据分析功能库，基于Numpy开发

（3）数据分析：SciPy库：数学、科学和工程计算功能库 https://scipy.org/

-提供了一批数学算法及工程数据运算功能

-类似Matlab可用于如傅里叶变换，信号处理等应用

-Python最主要的科学计算功能库，基于Numpy开发

（4）数据可视化：Matplotlib库：高质量的二维数据可视化功能库 https://matplotlib.org/

-提供了超过100种数据可视化展示效果

-通过matplotlib.pyplot子库调用各种可视化效果

-Python最主要的数据可视化功能库，基于Numpy开发

（5）数据可视化：Seaborn库：统计类数据可视化功能库 http://seaborn.pydata.org/

-提供了一批高层次的统计类数据可视化展示效果

-主要展示数据间分布、分类和线性关系等内容

-基于Matplotlib开发，支持Numpy和Pandas

（6）数据可视化：Mayavi库：三维科学数据可视化功能库 https://docs.enthought.com/mayavi/mayavi/

-提供了一批简单易用的3D科学计算数据可视化的展示效果

-三位可视化最主要的第三方库，支持Numpy、TVTK、Traits、Envisage等第三方库

（7）文本处理：PyPDF2库：用来处理pdf文件的工具集 https://github.com/mstamy2/PyPDF2

-提供了一批处理PDF文件的计算功能

-支持获取信息、分隔/整合文件、加密解密等

-完全Python语言实现，不需要额外以来，功能稳定

（8）文本处理：NLTK库：自然语言文本处理第三方库 https://www.nltk.org/

-提供了一批简单易用的自然语言文本处理功能

-支持语言文本分类、标记、语法句法、语义分析等

-目前最优秀的自然语言处理库

（9）文本处理：Pyhon-docx库：创建或者更新Microsoft Word文件的第三方库 https://python-docx.readthedocs.io/en/latest/

-提供创建或更新.docx.doc等文件的计算功能

-增加并配置段落、图片、表格、文字等，功能全面

（10）机器学习：Scikit-learn库：机器学习方法工具集 https://scikit-learn.org/stable/

-提供了一批永逸华的机器学习方法功能接口

-提供据类、分类、回归、强化学习等计算功能

-机器学习最基本且最优秀的Python第三方库

（11）机器学习：TensorFlow库：AlphaGo背后的机器学习计算框架 https://www.tensorflow.org/

-谷歌公司推动的开源机器学习框架

-将数据流图作为基础，图节点代表运算，边代表张量

-应用机器学习方法的一种方式，支撑谷歌人工智能应用

（12）深度学习：MXNet库：基于神经网络的深度学习计算框架 https://mxnet.apache.org/

-提供可扩展的神经网络以及深度学习计算功能

-可用于自动驾驶、机器翻译、语音识别等众多领域

-Python最重要的深度学习计算框架

2.从Web解析到网络空间

（1）网络爬虫：Requests：最友好的网络爬虫功能库 http://docs.python-requests.org/en/master/

-提供了简单易用的类HTTP协议网络爬虫功能

-支持连接池、SSL、Cookies、HTTP(S)代理等

-Python最主要的页面级网络爬虫功能库

（2）网络爬虫系统：Scrapy：优秀的网络爬虫框架 https://scrapy.org/

-提供了构建网络爬虫系统的框架功能，功能半成品

-支持批量和定时网页爬取，提供数据处理流程等

-Python最主要且最专业的网络爬虫框架

（3）网络爬虫：pyspider：强大的Web页面爬取系统 http://docs.pyspider.org/en/latest/

-提供了完整的网页爬取系统构建功能

-支持数据库后端、消息队列、优先级、分布式框架等

-Python最重要的网络爬虫类第三方库

（4）Web信息提取：Beautiful Soup：HTML和XML的解析库 https://www.crummy.com/software/BeautifulSoup/bs4/doc/

-提供了解析HTML和XML等Web信息的功能

-又名beautifulsoup4或者bs4，可以加载多种解析引擎

-常与网络爬虫库搭配使用，比如Scrapy、requests等

-使用之前需要预先了解HTML和XML的设计原理

（5）Web信息提取：Re：正则表达式解析和处理功能库

-提供了定义和解析正则表达式的一批通用功能

-可用于各类场景，包括定点的Web信息提取，能查找文本中的特定模式信息

-Python最主要的标准库之一，无需安装

（6）Web信息提取：Python-Goose：提取文章类型Web页面的功能库 https://github.com/grangier/python-goose

-提供了对Web页面里面文章信息/视频等元数据的提取功能

-针对特定类型Web页面，应用覆盖面较广

-Python最主要的Web信息提取库

（7）Web网站开发：Django：最流行的Web应用框架 https://www.djangoproject.com/

-提供了构建Web系统的基本应用框架

-MTV模式：模型（model）、模板（Template）、视图（Views）

-Python最重要的Web应用框架，略微复杂的应用框架

-需要预先了解WSGI、路由、功能处理逻辑、数据库、前端知识

（8）Web网站开发：Pyramid：规模适中的Web应用框架 https://trypyramid.com/

-提供了简单方便构建Web系统的应用框架

-不大不小，规模适中，适合快速构建并适度扩展类应用

-Python产品级Web应用框架，起步简单可扩展性好，适合中规模的网站

（9）Web网站开发：Flask：Web应用开发微框架 http://flask.pocoo.org/

-提供了最简单构建Web系统的应用框架

-特点是：简单、规模小、快速，非常轻量级

（10）网络应用开发：WeRoBot：微信公众号开发框架 https://github.com/offu/WeRoBot

-提供了解析微信服务器消息及反馈消息的功能

-建立微信机器人的重要技术手段

（11）网络应用开发：aip：百度AI开放平台接口 https://github.com/Baidu-AIP/python-sdk

-提供了访问百度AI服务的Python功能接口

-语音、人脸、OCR、NLP、知识图谱、图像搜索等领域

-Python百度AI应用的最主要方式

（12）网络应用开发：MyQR：二维码生成第三方库 https://github.com/sylnsfar/qrcode/blob/master/README-cn.md

-提供了生成二维码的系列功能

-基本二维码、艺术二维码和动态二维码

3.从人机交互到艺术设计

（1）图形用户界面开发：PyQt5：Qt开发框架的Python接口  https://riverbankcomputing.com/software/pyqt/intro

-提供了创建Qt5程序的Python API接口

-Qt是非常成熟的跨平台桌面应用开发系统，完备的GUI

-推荐使用的Python GUI开发第三方库

（2）图形用户界面开发：wxPython：跨平台GUI开发框架 https://wxpython.org/

-提供了专用于Python的跨平台GUI开发框架

-理解数据类型与索引的关系，操作索引即操作数据

-Python最主要的数据分析功能库，基于Numpy开发

（3）图形用户界面开发：PyGObject：使用GTK+开发GUI的功能库 https://pygobject.readthedocs.io/en/latest/

-提供了整合GTK+、WebKitGTK+等库的功能

-GTK+：跨平台的一种用户图形界面GUI框架

-实例：Anaconda采用该库构建GUI

（4）游戏开发：PyGame：简单的游戏开发功能库 https://www.pygame.org/news

-提供了基于SDL的简单游戏开发功能及实现引擎

-理解游戏对外部输入的响应机制及角色构建和交互机制

-Python游戏入门的最主要的第三方库

（5）游戏开发：Panda3D：开源、跨平台的3D渲染和游戏开发库 https://www.panda3d.org/

-一个3D游戏引擎，提供Python和C++两种接口，Python接口更加全面

-支撑很多先进特性：法线贴图、光泽贴图、卡通渲染等 【虚幻：？？】

-由迪士尼和卡内基梅隆大学共同开发

（6）游戏开发：cocos2d：构建2D游戏和图形界面交互式应用的框架 http://python.cocos2d.org/

-提供了基于OpenGL的游戏开发图形渲染功能

-支持GPU加速，采用树形结构分层管理游戏对象类型

-适用于2D专业级游戏开发

（7）虚拟现实：VR Zero：在树莓派上开发VR应用的Python库 https://github.com/WayneKeenan/python-vrzero

-提供了大量与VR开发相关的功能

-针对树莓派的VR开发库，支持设备小型化，配置简单化

-非常适合初学者实践VR开发及应用

（8）虚拟现实：pyovr：Oculus Rift的Python开发接口 https://github.com/cmbruns/pyovr

-针对Oculus VR设备的Python开发库

-基于成熟的VR设备，提供全套文档，工业级应用设备

（9）虚拟现实：Vizard：基于Python的通用VR开发引擎 https://www.worldviz.com/vizard

-专业的企业级虚拟现实开发引擎

-提供详细的官方文档

-支持多种主流的VR硬件设备，具有一定的通用性

（10）图形艺术：Quads库：迭代的艺术 https://github.com/fogleman/Quads

-对图片进行四分迭代，形成像素风

-可以生成动图或者静图图像

-简单易用，具有很高的展示度

（11）图形艺术：ascii_art库：ASCII艺术库 https://github.com/jontonsoup4/ascii_art

-将普通图片转为ASCII艺术风格

-输出可以是纯本本或者是彩色文本

-可采用图片格式输出

（12）图形艺术：turtle库：海龟绘图体系

-可以绘制 random art

4.玫瑰花绘制（非原创）

#RoseDraw.py
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):
    for i in range(n):
        t.left(d)
        t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor('green')
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()