|
' W0 N) I9 r% [2 \, a' M2 Q% {
最近一段时间,工作上花了不少时间用MATLAB处理工厂下线的数据,数据庞大不说,复杂度也高,各种推算和统计
$ M4 \+ T5 n7 C# @" K( z 所以今天我打算总结一下,平时我在用MATLAB做数据分析时常用的几个小技巧 @; n. I6 A) Y4 h. K; I" A
正好全国大学生数学建模竞赛下周就要开始了,希望今天的分享对参赛的朋友有所帮助 2 {1 ^" v, ~* E+ l8 x
虽然不知道到时候会有哪些选题,但是能肯定的是,不管是什么题目,都离不开数据分析,这是唯一比赛前能好好准备的 7 N R! r2 w( h" ]9 y0 C1 ~; h# e+ n' A
1. 数据类型的转换 $ o; r5 s2 n; M1 b9 q) x4 ~
有一类问题,不论你MATLAB水平如何,平时写代码的时候多少总会遇到,就是数据类型不一致,需要转换 ) D0 F' @# D! ^& y( p
至于什么是数据类型,这个问题我就不科普了,大家可以直接在MATLAB命令栏“doc 数据类型”
; y9 K' ^ K% _/ J8 j
' F( w" S! r+ R' z c 通常在数据转换这个问题上,涉及到的比较常见几种的数据类型有double,char,cell,struct / p1 @4 t a( A2 @
我给大家准备了一张数据类型转换的关系图,用class判断一下转换前的两种数据类型,然后按照下面这张图处理就完事了 ' T# {. j' O, p) f6 i: u
7 w- c! w1 ?5 s) {$ `
2. 字符串的对比 $ u: {9 F; c5 k% @ Y
第二个经常需要处理的问题是,字符串的对比
, m0 l" W* D5 x6 j 这里不单单指的是字符串,还包括cell元胞里面的字符串定位 ! }, V6 K% K3 H/ M3 F3 u
如果单纯只是字符串的话,要判断两个字符串是否相同,strcmp函数可以实现对比 3 C; Z% e3 ]/ q) Z
strcmp(abc,abc) + r% t2 p( K8 A
判断字符串中是否包含某种字符串,可以使用contains函数 ! e/ U' D4 q1 o/ B& y" o1 }% `
contains(abc,ab)
6 J9 o7 }- o! {8 J! e 判断字符串中在哪几位出现某种字符串,可以使用regexp函数 , p: j, x; F; E& W- c4 T0 I) S5 I, G
regexp(abac,a) ) c& Z( Q7 O9 }2 n/ X
更常碰到的场景是,在cell元胞里面判断字符串,比如维度1x1000的cell中,定位哪几个cell里面的字符串是‘abc’,还是通过strcmp实现对比,再通过find定位 " J+ U# Y& ]0 S$ C2 f# Y
a = strcmp(Cell_variable,abc);1 G8 w6 ]6 Z0 S' }" G V
b = find(a == 1)
# L/ o# x! x' m2 v; L' } 同样,要判断这1x1000的cell中,定位哪几个cell中的字符串,带有‘ab’,可以使用contains函数,再用find定位 4 z8 _0 `8 ^+ w X* S
a = contains (Cell_variable,ab);1 A% ?3 t9 ?9 p! r- x7 D! K- [. k
b = find(a == 1)
) x8 P$ I; P6 L0 g 掌握上面这两点,在平时处理cell的字符串,基本上就够用了
+ j& ?6 z, [' Z+ F; U5 ]$ C) A 3. 文件的读取写入 5 u" B( {0 E2 K# L* H8 X: Z2 _
文件的读取写入同样非常重要,在数据分析过程中,对应着信息的获取和数据处理结果的输出 1 l; ?$ _5 I4 e
mat, txt, excel是平时最常碰到的文件类型
6 @0 x2 U5 u' [1 U- c s; H. m3 F mat就不用多说了,MATLAB中的一种文件类型,用于存储workspace中的变量,在数据分析过程中,可以经常把运算结果或中间阶段的数据,作为mat进行保存
: m8 ?, |, p0 m" Z/ o8 f$ X" q 加载mat文件,用的是“load 文件名”命令,也可以双击mat文件,保存mat文件,用的是“save 文件名”命令,也可以workspace右键保存
; P* F: c; H8 `2 Z' c, w! o txt的读取方式有非常多,网上也有各种各样的介绍,我就介绍两种最常用,也是目前我一直在用的两种方法 & U6 \# Y0 n6 ?. b: ~+ Q9 g. v9 O
第一种是通过importdata(‘test.txt’)命令,读取的结果是一个多行一列的cell元胞,后续的数据处理也就方便了,cell里面的字符串定位处理在前面也已经介绍过
) u2 t& F6 b, B L 另一种方法是,通过MATLAB工具条里的“导入数据”按钮,这种方法的一个好处是,导入过程中有很多非常人性化的设置,比如数据的分隔,范围定义,数据的输出类型等等 ( i, F1 F. o7 e7 O3 Q% `
导出的选择也有不少,可以选择直接导出到workspace,也可以选择生成脚本或者是function,方便同类型文本的重复使用,对于不太喜欢写脚本导入数据的朋友,我比较推荐这种方式 6 _) U- Q: R$ O, O
& m4 G( I: n& @9 q& _
7 N& I7 T$ W! p
" }6 [! I" q1 {$ b* P$ E txt的写入,可以通过fopen,fprintf,fclose实现,基本上我所有GUI中关于代码生成的功能,都是通过这个方式将代码写入m脚本的,给大家举一个简单的txt写入的例子代码 8 L$ E# W: F9 d9 u
fid = fopen(test.txt,wt);) I5 T$ B" @- b j0 K
fprintf(fid,test1\n);
8 ?& `4 m$ Y* v fprintf(fid,test2\n);: D" V2 }0 ]' v
fclose(fid); 3 ~, v: v/ Q7 d2 E
关于txt的读取写入,我再多介绍一点,txt是文本文件中的一种,就是那种右键打开能读得懂的文件。类似的文本文件还有很多,像m文件,mdl模型文件,dcm文件,c代码等等,只要是文本文件,都可以用txt处理的方式,对目标文件进行读取写入。 6 |. U5 G+ ?# S9 {& ^; ]3 e5 `
最后讲一下Excel读取写入的问题,常写MATLAB脚本的朋友,对xlsread和xlswrite肯定不陌生,对应的是Excel的读取和写入 - [/ o* D4 h5 [1 e2 g
[num,txt,raw] = xlsread(filename,sheet,xlRange)
$ _% E. E' r- `% D( r" _ xlswrite(filename,A,sheet,xlRange)
7 e( u' j* o* ]% Q. c/ y 但是目前MATLAB官方已经不推荐使用这两种方式了,替代的函数是readtable和writetable
7 m: o, e% S" Q! T" e7 p8 \& [ T = readtable(filename)
/ z3 g' q, b$ R' g* t writetable(T,filename)
|9 R4 S* w' V# Z
1 Y# D) w. s9 I. |7 D/ F6 K 如果数据是cell元胞的话,替代的函数是readcell和writecell
. ]5 g7 A) C+ n0 {4 [ T = readcell(filename)" F/ g( L, ?; P
writecell(T,filename)
1 }& T" W# x6 I& [1 M8 C 大家根据自己的个人习惯选择其中一种方式,两种方式在功能实现上目前并没有太大区别
4 v6 j( m/ }# X2 |6 m 4. 数据可视化 4 o! w$ q" ?+ U6 H- u7 H
数据可视化,结果的呈现,也是数据分析过程中至关重要的一环 # |4 {) i! ^' w+ e! b4 l& J3 ]
像大家非常熟悉的函数plot,就可以用来画曲线图,但是有时候仅仅曲线图并不足以来呈现结果,还需要用到比如像三维图,柱状图,饼状图,蜡烛图等等 j* v# z& g. w5 x/ \( p
这部分我并不打算给大家罗列各种图形对应代码命令,大家也没必要刻意地去死记这些代码,安利一个非常通用的方法 . }% S: P! ]& ]0 g, @9 H0 E# y
在选择需要可视化的数据之后,在MATLAB工具条的绘图窗口,选取你喜欢的图形,就能生成你需要的结果图了
1 W/ R7 x9 K1 |' S: p1 | # S! k1 u1 T: ]- u7 C. E6 V j/ T
不过,至于图片的细节,像title,legend,网格,还是需要自己微调,但这都不是事,再安利大家一个简单的方法,完全不用上网去搜
% p/ x- v$ K E/ {0 L- ?, L1 M- I 在生成窗口中,点击属性检查器,然后根据自己的需要完善图片的细节,最后通过生成代码,就能看到这部分作图操作的原始代码了,大家也能在代码的基础上再微调,或者复用 ! Q# l" U# [* Q5 F
- e8 M" W; F/ Z* ^" | y ( }" ~- o/ d. ^2 k3 c; c
5 d: d- _! I/ Y" E6 w; }5 G 5. 数据处理的常用函数 3 V1 l7 c& o6 H
关于数据处理的函数,像max,min,mean,std这些函数都是比较常用的函数,分别是最大值,最小值,平均值,标准差
& @9 l: Y1 f* ]# b5 l9 V- a* t 再安利大家几个平时我在处理数据时最常用的几个函数
" P: n3 H! l. Y! g 第一个是unique函数,可以把数据中重复的数据删去,保留唯一值。unique这个函数不仅仅对数值矩阵有效,在cell中同样起作用
1 T) T# s: H8 W& l9 v9 v C = unique(A) * @9 V1 m* V- y E. O9 D) i: V7 ]
unique还有一些拓展的语法和功能,有兴趣的朋友可以在MATLAB文档中查看,不过光这个基本功能,就已经非常够用了 6 t0 E( [( v& p
第二个要推荐的函数是排序,sort和sortrows,两种函数都有排序的功能,但是使用场景不太一样
9 r* i+ o/ _% a9 s sort的功能是,将矩阵或者cell中的每行或者每列进行升序或降序排列,其中A代表待处理的矩阵或cell数据,dim的选择有1和2,分别代表对每列和每行进行排序,direction的选择有ascend或 descend,分别代表升序和降序
# i% |5 X A# t# V, D: n( M B = sort(A,dim,direction) + |: k/ e; B0 L' S+ I4 o
sortrows的功能是,将矩阵或者cell根据某一列进行升序或降序排列,其中A代表待处理的矩阵或cell数据,column代表根据第几列进行排序,direction的选择有ascend或 descend,分别代表升序和降序 $ @$ E h/ G: h2 V$ h
B = sortrows(A,column ,direction)
+ L, } Z- Z% ?6 Z 最后推荐的一个函数是tabulate,非常强的一个命令,可以实现对数据的统计分析,输出的结果有三列,分别是去重后的数据,出现的次数,已经对应的百分比 " w6 K* _, U* ^8 U8 t9 u9 f
再结合sortrows对tabulate生成的结果进行排序,就很容易获得各个数据根据频率进行排序的结果
) E% p: E/ Z, ?
" G) N7 u6 }! |# Y, {7 B( b 除了上面提到的几个日常比较常用的函数,还有一些我非常推荐的函数,平时我用的不太多,但是如果用到的时候找不到会很抓狂的那种 3 E# A3 _$ Z2 N4 m8 ~
比如reshape,可以根据自己的需求对数组进行重构 6 O' e9 h! @. J
isequal,可以用来确定两个数组是否相等
4 r/ b) ~* R" o* D2 y% a datenum,datestr相信大家比较熟悉,可以将日期转换成序列值和字符,平时在处理时间相关数据的时候,还可以考虑用years,days,hours,minutes,seconds等等来计算持续时间 2 W! _) A$ N0 L U
常用函数这部分内容就介绍到这,其实还有很多非常赞的函数,欢迎大家把自己喜欢的函数发到评论区
/ r- G# M5 I& R, {$ e0 R2 C
) C* I( h" v" N 6. 数据爬取 ( z& s; h$ }( n# K% m& F, s
数据爬取部分,其实我想讲的是爬虫,不过也不能算数据分析的技巧,我讲这部分内容,更多的是出于建模竞赛的原因 7 S; d; j! _1 k) Z
建模、仿真和验证,其实是需要数据的支持的。脱离实际意义的建模,靠拍脑门做出来的结果,都是不提倡的
1 |& {( @( S. C) e 最简单的情况,如果有现成的数据文件,可以根据今天聊到的第三部分,读取数据文件之后进行分析
6 {0 b7 x# h5 z0 t7 R( m7 H 如果没有这些数据,我推荐大家使用MATLAB读取网页的函数webread进行数据爬取
1 O7 M C5 m; B. w- w2 _! ` data = webread(url) 7 q( o% m% v" Z3 P1 L% ]
爬取到数据之后,再通过regexp函数正则法处理网页数据 " [3 K2 H" S: w* Q$ y: E
这部分聊的比较浅,但也很难三两句话把爬虫讲完,推荐大家一个相关的MATLAB爬虫视频,讲的是我之前用MATLAB爬取B站,视频很短,一共7分钟,大家一边看一边跟着做练习,基本上半个小时也就全整明白了(知乎不给放二维码,有需要的朋友,直接上B站搜打浦桥程序员吧)
$ l5 N$ K# Q. n9 d6 D- _ 7. 薅系列工具
9 H* m* N3 z: }' D 最后一部分要安利给大家的是,由我自己开发的薅系列工具 ' Y, Z" f" |0 m+ z$ H, \, a: b% c2 ]3 l
目前反响最好的是薅曲线(HaoCurve),从图片中提取曲线的原始数据。之前不少参加过建模竞赛的朋友经常私信说,拿薅曲线来做结果验证特别管用
8 z& w" F! X7 B6 Z% v, \; g 虽然这个工具我平时用到的不太多,不过就冲8000多的下载量来说,我还是很推荐的。需要的朋友,戳下方的文章链接获取工具下载方式 , C: y% h$ C: @' H, u. Y" I! ^9 n' M. O
' ^' m7 r7 G- d. q 4 M9 x, C/ L7 |
+ D7 _3 ~1 k/ r # @5 K( c5 C: L [
我个人用的比较多的是另外两款工具,一个是薅文件(HaoFile),里面的历史代码检索功能很强大,可以大大减少找代码写脚本的时间,在数据分析过程中,很多脚本和功能都是可以复用的,有需要的朋友,戳下方的文章链接获取工具下载方式 . @# ~' [# d4 j( b/ q% D
6 D _ R/ D9 t 打浦桥程序员:背几段MATLAB代码就那么难吗?
! ?7 w+ S; f. V8 w0 {
6 X; H$ S1 N6 d- r ' q H: d: q K9 N- v
5 W' _0 K" N2 G7 z, ? / s) n3 [1 _. w& S( R
另一款工具是薅模版(HaoTemplate),如果最终数据分析的交付文档有格式上的要求,薅模版能就发挥它的作用,可以生成特定格式的Excel或Word模版代码,这可比自己手动去调格式方便很多,有需要的朋友,戳下方的文章链接获取工具下载方式
: O& |; W/ B w# R! E3 b9 m
- A% |' W6 E: C" m
+ q" f9 r: s7 X % E3 t/ q Y% \( U2 Y
7 W, q( n, b+ U( g: t3 m
薅系列工具还有很多,不过在数据分析这部分,我最推荐的是这三款工具
' g( s. t" Q1 ^. o1 n- p+ p0 n/ f 2 k6 }( @* Q3 M4 N+ O
不知觉间,写了这么多字 . t' x4 x* f1 V& ~
今天总结的小技巧,未必是最适合大家的方法,但确实是我这些年养成的一些处理习惯 O( g1 |" }% d7 V) Q0 x
希望今天总结的方法,对大家平时的工作学习有所帮助,当然大家如果有更推荐的小技巧,欢迎在评论区补充 m- [. [& d6 O c: X0 y
如果你也对MATLAB感兴趣的话,欢迎关注我的微信公众号“打浦桥程序员” , L: d4 C# c/ f/ l# a
2 f3 u L, q) C3 H
7 [+ a/ p3 D1 J( u: T1 d3 D8 g* Z! A" t3 `- ?: ~
, K+ {! d* n4 V0 d
|