1 | <!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd"> |
---|
2 | <html> |
---|
3 | <head> |
---|
4 | <META http-equiv="Content-Type" content="text/html; charset=UTF-8"> |
---|
5 | <meta content="Apache Forrest" name="Generator"> |
---|
6 | <meta name="Forrest-version" content="0.8"> |
---|
7 | <meta name="Forrest-skin-name" content="pelt"> |
---|
8 | <title> |
---|
9 | Hadoop On Demand |
---|
10 | </title> |
---|
11 | <link type="text/css" href="skin/basic.css" rel="stylesheet"> |
---|
12 | <link media="screen" type="text/css" href="skin/screen.css" rel="stylesheet"> |
---|
13 | <link media="print" type="text/css" href="skin/print.css" rel="stylesheet"> |
---|
14 | <link type="text/css" href="skin/profile.css" rel="stylesheet"> |
---|
15 | <script src="skin/getBlank.js" language="javascript" type="text/javascript"></script><script src="skin/getMenu.js" language="javascript" type="text/javascript"></script><script src="skin/fontsize.js" language="javascript" type="text/javascript"></script> |
---|
16 | <link rel="shortcut icon" href="images/favicon.ico"> |
---|
17 | </head> |
---|
18 | <body onload="init()"> |
---|
19 | <script type="text/javascript">ndeSetTextSize();</script> |
---|
20 | <div id="top"> |
---|
21 | <!--+ |
---|
22 | |breadtrail |
---|
23 | +--> |
---|
24 | <div class="breadtrail"> |
---|
25 | <a href="http://www.apache.org/">Apache</a> > <a href="http://hadoop.apache.org/">Hadoop</a> > <a href="http://hadoop.apache.org/core/">Core</a><script src="skin/breadcrumbs.js" language="JavaScript" type="text/javascript"></script> |
---|
26 | </div> |
---|
27 | <!--+ |
---|
28 | |header |
---|
29 | +--> |
---|
30 | <div class="header"> |
---|
31 | <!--+ |
---|
32 | |start group logo |
---|
33 | +--> |
---|
34 | <div class="grouplogo"> |
---|
35 | <a href="http://hadoop.apache.org/"><img class="logoImage" alt="Hadoop" src="images/hadoop-logo.jpg" title="Apache Hadoop"></a> |
---|
36 | </div> |
---|
37 | <!--+ |
---|
38 | |end group logo |
---|
39 | +--> |
---|
40 | <!--+ |
---|
41 | |start Project Logo |
---|
42 | +--> |
---|
43 | <div class="projectlogo"> |
---|
44 | <a href="http://hadoop.apache.org/core/"><img class="logoImage" alt="Hadoop" src="images/core-logo.gif" title="Scalable Computing Platform"></a> |
---|
45 | </div> |
---|
46 | <!--+ |
---|
47 | |end Project Logo |
---|
48 | +--> |
---|
49 | <!--+ |
---|
50 | |start Search |
---|
51 | +--> |
---|
52 | <div class="searchbox"> |
---|
53 | <form action="http://www.google.com/search" method="get" class="roundtopsmall"> |
---|
54 | <input value="hadoop.apache.org" name="sitesearch" type="hidden"><input onFocus="getBlank (this, 'Search the site with google');" size="25" name="q" id="query" type="text" value="Search the site with google"> |
---|
55 | <input name="Search" value="Search" type="submit"> |
---|
56 | </form> |
---|
57 | </div> |
---|
58 | <!--+ |
---|
59 | |end search |
---|
60 | +--> |
---|
61 | <!--+ |
---|
62 | |start Tabs |
---|
63 | +--> |
---|
64 | <ul id="tabs"> |
---|
65 | <li> |
---|
66 | <a class="unselected" href="http://hadoop.apache.org/core/">项ç®</a> |
---|
67 | </li> |
---|
68 | <li> |
---|
69 | <a class="unselected" href="http://wiki.apache.org/hadoop">绎åº</a> |
---|
70 | </li> |
---|
71 | <li class="current"> |
---|
72 | <a class="selected" href="index.html">Hadoop 0.18ææ¡£</a> |
---|
73 | </li> |
---|
74 | </ul> |
---|
75 | <!--+ |
---|
76 | |end Tabs |
---|
77 | +--> |
---|
78 | </div> |
---|
79 | </div> |
---|
80 | <div id="main"> |
---|
81 | <div id="publishedStrip"> |
---|
82 | <!--+ |
---|
83 | |start Subtabs |
---|
84 | +--> |
---|
85 | <div id="level2tabs"></div> |
---|
86 | <!--+ |
---|
87 | |end Endtabs |
---|
88 | +--> |
---|
89 | <script type="text/javascript"><!-- |
---|
90 | document.write("Last Published: " + document.lastModified); |
---|
91 | // --></script> |
---|
92 | </div> |
---|
93 | <!--+ |
---|
94 | |breadtrail |
---|
95 | +--> |
---|
96 | <div class="breadtrail"> |
---|
97 | |
---|
98 | |
---|
99 | </div> |
---|
100 | <!--+ |
---|
101 | |start Menu, mainarea |
---|
102 | +--> |
---|
103 | <!--+ |
---|
104 | |start Menu |
---|
105 | +--> |
---|
106 | <div id="menu"> |
---|
107 | <div onclick="SwitchMenu('menu_1.1', 'skin/')" id="menu_1.1Title" class="menutitle">ææ¡£</div> |
---|
108 | <div id="menu_1.1" class="menuitemgroup"> |
---|
109 | <div class="menuitem"> |
---|
110 | <a href="index.html">æŠè¿°</a> |
---|
111 | </div> |
---|
112 | <div class="menuitem"> |
---|
113 | <a href="quickstart.html">å¿«éå
¥éš</a> |
---|
114 | </div> |
---|
115 | <div class="menuitem"> |
---|
116 | <a href="cluster_setup.html">é矀æ建</a> |
---|
117 | </div> |
---|
118 | <div class="menuitem"> |
---|
119 | <a href="hdfs_design.html">HDFSææ¶è®Ÿè®¡</a> |
---|
120 | </div> |
---|
121 | <div class="menuitem"> |
---|
122 | <a href="hdfs_user_guide.html">HDFS䜿çšæå</a> |
---|
123 | </div> |
---|
124 | <div class="menuitem"> |
---|
125 | <a href="hdfs_permissions_guide.html">HDFSæéæå</a> |
---|
126 | </div> |
---|
127 | <div class="menuitem"> |
---|
128 | <a href="hdfs_quota_admin_guide.html">HDFSé
é¢ç®¡çæå</a> |
---|
129 | </div> |
---|
130 | <div class="menuitem"> |
---|
131 | <a href="commands_manual.html">åœä»€æå</a> |
---|
132 | </div> |
---|
133 | <div class="menuitem"> |
---|
134 | <a href="hdfs_shell.html">FS Shell䜿çšæå</a> |
---|
135 | </div> |
---|
136 | <div class="menuitem"> |
---|
137 | <a href="distcp.html">DistCp䜿çšæå</a> |
---|
138 | </div> |
---|
139 | <div class="menuitem"> |
---|
140 | <a href="mapred_tutorial.html">Map-Reduceæçš</a> |
---|
141 | </div> |
---|
142 | <div class="menuitem"> |
---|
143 | <a href="native_libraries.html">Hadoopæ¬å°åº</a> |
---|
144 | </div> |
---|
145 | <div class="menuitem"> |
---|
146 | <a href="streaming.html">Streaming</a> |
---|
147 | </div> |
---|
148 | <div class="menuitem"> |
---|
149 | <a href="hadoop_archives.html">Hadoop Archives</a> |
---|
150 | </div> |
---|
151 | <div class="menuitem"> |
---|
152 | <a href="hod.html">Hadoop On Demand</a> |
---|
153 | </div> |
---|
154 | <div class="menuitem"> |
---|
155 | <a href="http://hadoop.apache.org/core/docs/r0.18.2/api/index.html">APIåè</a> |
---|
156 | </div> |
---|
157 | <div class="menuitem"> |
---|
158 | <a href="http://hadoop.apache.org/core/docs/r0.18.2/jdiff/changes.html">API Changes</a> |
---|
159 | </div> |
---|
160 | <div class="menuitem"> |
---|
161 | <a href="http://wiki.apache.org/hadoop/">绎åº</a> |
---|
162 | </div> |
---|
163 | <div class="menuitem"> |
---|
164 | <a href="http://wiki.apache.org/hadoop/FAQ">åžžè§é®é¢</a> |
---|
165 | </div> |
---|
166 | <div class="menuitem"> |
---|
167 | <a href="http://hadoop.apache.org/core/mailing_lists.html">é®ä»¶åè¡š</a> |
---|
168 | </div> |
---|
169 | <div class="menuitem"> |
---|
170 | <a href="http://hadoop.apache.org/core/docs/r0.18.2/releasenotes.html">åè¡è¯Žæ</a> |
---|
171 | </div> |
---|
172 | <div class="menuitem"> |
---|
173 | <a href="http://hadoop.apache.org/core/docs/r0.18.2/changes.html">åæŽæ¥å¿</a> |
---|
174 | </div> |
---|
175 | </div> |
---|
176 | <div id="credit"></div> |
---|
177 | <div id="roundbottom"> |
---|
178 | <img style="display: none" class="corner" height="15" width="15" alt="" src="skin/images/rc-b-l-15-1body-2menu-3menu.png"></div> |
---|
179 | <!--+ |
---|
180 | |alternative credits |
---|
181 | +--> |
---|
182 | <div id="credit2"></div> |
---|
183 | </div> |
---|
184 | <!--+ |
---|
185 | |end Menu |
---|
186 | +--> |
---|
187 | <!--+ |
---|
188 | |start content |
---|
189 | +--> |
---|
190 | <div id="content"> |
---|
191 | <div title="Portable Document Format" class="pdflink"> |
---|
192 | <a class="dida" href="hod_admin_guide.pdf"><img alt="PDF -icon" src="skin/images/pdfdoc.gif" class="skin"><br> |
---|
193 | PDF</a> |
---|
194 | </div> |
---|
195 | <h1> |
---|
196 | Hadoop On Demand |
---|
197 | </h1> |
---|
198 | <div id="minitoc-area"> |
---|
199 | <ul class="minitoc"> |
---|
200 | <li> |
---|
201 | <a href="#%E6%A6%82%E8%BF%B0">æŠè¿°</a> |
---|
202 | </li> |
---|
203 | <li> |
---|
204 | <a href="#%E5%85%88%E5%86%B3%E6%9D%A1%E4%BB%B6">å
å³æ¡ä»¶</a> |
---|
205 | </li> |
---|
206 | <li> |
---|
207 | <a href="#%E8%B5%84%E6%BA%90%E7%AE%A1%E7%90%86%E5%99%A8">èµæºç®¡çåš</a> |
---|
208 | </li> |
---|
209 | <li> |
---|
210 | <a href="#%E5%AE%89%E8%A3%85HOD">å®è£
HOD</a> |
---|
211 | </li> |
---|
212 | <li> |
---|
213 | <a href="#%E9%85%8D%E7%BD%AEHOD">é
眮HOD</a> |
---|
214 | <ul class="minitoc"> |
---|
215 | <li> |
---|
216 | <a href="#%E6%9C%80%E5%B0%8F%E9%85%8D%E7%BD%AE">æå°é
眮</a> |
---|
217 | </li> |
---|
218 | <li> |
---|
219 | <a href="#%E9%AB%98%E7%BA%A7%E9%85%8D%E7%BD%AE">é«çº§é
眮</a> |
---|
220 | </li> |
---|
221 | </ul> |
---|
222 | </li> |
---|
223 | <li> |
---|
224 | <a href="#%E8%BF%90%E8%A1%8CHOD">è¿è¡HOD</a> |
---|
225 | </li> |
---|
226 | <li> |
---|
227 | <a href="#%E6%94%AF%E6%8C%81%E5%B7%A5%E5%85%B7%E5%92%8C%E5%AE%9E%E7%94%A8%E7%A8%8B%E5%BA%8F">æ¯æå·¥å
·åå®çšçšåº</a> |
---|
228 | <ul class="minitoc"> |
---|
229 | <li> |
---|
230 | <a href="#logcondense.py+-+%E7%AE%A1%E7%90%86%E6%97%A5%E5%BF%97%E6%96%87%E4%BB%B6">logcondense.py - 管çæ¥å¿æ件</a> |
---|
231 | <ul class="minitoc"> |
---|
232 | <li> |
---|
233 | <a href="#%E8%BF%90%E8%A1%8Clogcondense.py">è¿è¡logcondense.py</a> |
---|
234 | </li> |
---|
235 | <li> |
---|
236 | <a href="#logcondense.py%E7%9A%84%E5%91%BD%E4%BB%A4%E8%A1%8C%E9%80%89%E9%A1%B9">logcondense.pyçåœä»€è¡é项</a> |
---|
237 | </li> |
---|
238 | </ul> |
---|
239 | </li> |
---|
240 | <li> |
---|
241 | <a href="#checklimits.sh+-+%E7%9B%91%E8%A7%86%E8%B5%84%E6%BA%90%E9%99%90%E5%88%B6">checklimits.sh - çè§èµæºéå¶</a> |
---|
242 | <ul class="minitoc"> |
---|
243 | <li> |
---|
244 | <a href="#%E8%BF%90%E8%A1%8Cchecklimits.sh">è¿è¡checklimits.sh</a> |
---|
245 | </li> |
---|
246 | </ul> |
---|
247 | </li> |
---|
248 | <li> |
---|
249 | <a href="#verify-account+-+%E7%94%A8%E4%BA%8E%E6%A0%B8%E5%AE%9E%E7%94%A8%E6%88%B7%E6%8F%90%E4%BA%A4%E4%BD%9C%E4%B8%9A%E6%89%80%E4%BD%BF%E7%94%A8%E7%9A%84%E5%B8%90%E5%8F%B7%E7%9A%84%E8%84%9A%E6%9C%AC">verify-account - çšäºæ žå®çšæ·æ亀äœäžæ䜿çšçåžå·çèæ¬</a> |
---|
250 | <ul class="minitoc"> |
---|
251 | <li> |
---|
252 | <a href="#%E5%9C%A8HOD%E4%B8%AD%E9%9B%86%E6%88%90verify-account">åšHODäžéæverify-account</a> |
---|
253 | </li> |
---|
254 | </ul> |
---|
255 | </li> |
---|
256 | </ul> |
---|
257 | </li> |
---|
258 | </ul> |
---|
259 | </div> |
---|
260 | |
---|
261 | <a name="N1000C"></a><a name="%E6%A6%82%E8%BF%B0"></a> |
---|
262 | <h2 class="h3">æŠè¿°</h2> |
---|
263 | <div class="section"> |
---|
264 | <p>Hadoop On Demand (HOD)æ¯äžäžªèœåšäžäžªå
±äº«é矀äžäŸåºå管ççžäºç¬ç«çHadoop Map/ReduceåHadoopååžåŒæ件系ç»ïŒHDFSïŒå®äŸçç³»ç»ãå®èœè®©ç®¡çååçšæ·èœ»æŸå°å¿«éæ建å䜿çšhadoopãHOD对HadoopçåŒå人ååæµè¯äººåä¹éåžžæçšïŒä»ä»¬å¯ä»¥éè¿HODå
±äº«äžäžªç©çé矀æ¥æµè¯åèªäžåçHadoopçæ¬ã</p> |
---|
265 | <p>HODäŸèµèµæºç®¡çåš(RM)æ¥åé
èç¹ïŒè¿äºèç¹è¢«çšæ¥åšä¹äžè¿è¡hadoopå®äŸãç®åïŒHODéçšçæ¯<a href="http://www.clusterresources.com/pages/products/torque-resource-manager.php">Torqueèµæºç®¡çåš</a>ã |
---|
266 | </p> |
---|
267 | <p> |
---|
268 | åºæ¬çHODç³»ç»æ¶æå
å«çäžåç»ä»¶ïŒ</p> |
---|
269 | <ul> |
---|
270 | |
---|
271 | <li>äžäžªèµæºç®¡çåšïŒå¯èœåæ¶é垊äžäžªè°åºŠçšåºïŒ</li> |
---|
272 | |
---|
273 | <li>åç§HODçç»ä»¶ </li> |
---|
274 | |
---|
275 | <li>Hadoop Map/ReduceåHDFSå®æ€è¿çš</li> |
---|
276 | |
---|
277 | </ul> |
---|
278 | <p> |
---|
279 | éè¿äžä»¥äžç»ä»¶äº€äºïŒHODåšç»å®çé矀äžäŸåºå绎æ€Hadoop Map/Reduceå®äŸïŒæè
HDFSå®äŸãé矀äžçèç¹å¯çäœç±äž€ç»èç¹ææïŒ</p> |
---|
280 | <ul> |
---|
281 | |
---|
282 | <li>æ亀èç¹(Submit nodes)ïŒçšæ·éè¿HOD客æ·ç«¯åšè¿äºèç¹äžç³è¯·é矀ïŒä¹åéè¿Hadoop客æ·ç«¯æ亀Hadoopäœäžã</li> |
---|
283 | |
---|
284 | <li>计ç®èç¹(Compute nodes)ïŒå©çšèµæºç®¡çåšïŒHODç»ä»¶åšè¿äºèç¹äžè¿è¡ä»¥äŸåºHadoopå®æ€è¿çšãä¹åïŒHadoopäœäžåšè¿äºèç¹äžè¿è¡ã</li> |
---|
285 | |
---|
286 | </ul> |
---|
287 | <p> |
---|
288 | äžé¢æ¯å¯¹ç³è¯·é矀ååšä¹äžè¿è¡äœäžæéæäœæ¥éª€çç®èŠæè¿°ã |
---|
289 | </p> |
---|
290 | <ul> |
---|
291 | |
---|
292 | <li>çšæ·åšæ亀èç¹äžçšHOD客æ·ç«¯åé
æéæ°ç®èç¹çé矀ïŒåšäžé¢äŸåºHadoopã</li> |
---|
293 | |
---|
294 | <li>HOD客æ·ç«¯å©çšèµæºç®¡çåšæ¥å£ïŒåšTorqueäžæ¯qsubïŒæ亀äžäžªè¢«ç§°äžºRingMasterçHODè¿çšäœäžºäžäžªèµæºç®¡çåšäœäžïŒç³è¯·çæ³æ°ç®çèç¹ãè¿äžªäœäžè¢«æ亀å°èµæºç®¡çåšçäžå€®æå¡åšäžïŒåšTorqueäžå«pbs_serverïŒã</li> |
---|
295 | |
---|
296 | <li>åšè®¡ç®èç¹äžïŒèµæºç®¡çåšçä»(slave)å®æ€çšåº(Torqueäžçpbs_moms)æ¥å并å€çäžå€®æå¡åš(Torqueäžçpbs_server)åé
çäœäžãRingMasterè¿çšåšå
¶äžäžäžªè®¡ç®èç¹ïŒTorqueäžçmother superiorïŒäžåŒå§è¿è¡ã</li> |
---|
297 | |
---|
298 | <li>ä¹åïŒRingmasteréè¿èµæºç®¡çåšçåŠå€äžäžªæ¥å£(åšTorqueäžæ¯pbsdsh)åšææåé
å°ç计ç®èç¹äžè¿è¡ç¬¬äºäžªHODç»ä»¶HodRingïŒå³ååžåŒä»»å¡ã</li> |
---|
299 | |
---|
300 | <li>HodRingåå§åä¹åäŒäžRingMasteréä¿¡è·åHadoopæ什ïŒå¹¶éµç
§æ§è¡ãäžæŠHadoopçåœä»€åŒå§å¯åšïŒå®ä»¬äŒåRingMasterç»è®°ïŒæäŸå
³äºå®æ€è¿çšçä¿¡æ¯ã</li> |
---|
301 | |
---|
302 | <li>Hadoopå®äŸæéçé
眮æ件å
šéšç±HODèªå·±çæïŒæäžäºæ¥èªäºçšæ·åšé
眮æ件讟眮çé项ã</li> |
---|
303 | |
---|
304 | <li>HOD客æ·ç«¯ä¿æåRingMasterçéä¿¡ïŒæŸåºJobTrackeråHDFSå®æ€è¿çšçäœçœ®æåšã</li> |
---|
305 | |
---|
306 | </ul> |
---|
307 | <p>ä¹åçææ¡£äŒè®²è¿°åŠäœåšäžäžªç©çé矀çèç¹äžå®è£
HODã</p> |
---|
308 | </div> |
---|
309 | |
---|
310 | |
---|
311 | <a name="N10056"></a><a name="%E5%85%88%E5%86%B3%E6%9D%A1%E4%BB%B6"></a> |
---|
312 | <h2 class="h3">å
å³æ¡ä»¶</h2> |
---|
313 | <div class="section"> |
---|
314 | <p>èŠäœ¿çšHODïŒäœ çç³»ç»åºå
å«äžåç硬件å蜯件</p> |
---|
315 | <p>æäœç³»ç»: HODç®ååšRHEL4äžæµè¯éè¿ã<br> |
---|
316 | èç¹ïŒHODè³å°éèŠ3䞪ç±èµæºç®¡çåšé
眮çèç¹ã<br> |
---|
317 | </p> |
---|
318 | <p>蜯件</p> |
---|
319 | <p>åšäœ¿çšHODä¹åïŒä»¥äžç»ä»¶å¿
须被å®è£
å°ææèç¹äžïŒ</p> |
---|
320 | <ul> |
---|
321 | |
---|
322 | <li>TorqueïŒèµæºç®¡çåš</li> |
---|
323 | |
---|
324 | <li> |
---|
325 | <a href="http://www.python.org">Python</a>ïŒHODèŠæ±Python 2.5.1</li> |
---|
326 | |
---|
327 | </ul> |
---|
328 | <p>äžåç»ä»¶æ¯å¯éçïŒäœ å¯ä»¥å®è£
以è·åHODæŽå¥œçåèœïŒ</p> |
---|
329 | <ul> |
---|
330 | |
---|
331 | <li> |
---|
332 | <a href="http://twistedmatrix.com/trac/">Twisted Python</a>ïŒè¿äžªå¯ä»¥çšæ¥æåHODçå¯æ©å±æ§ãåŠææ£æµå°è¿äžªæš¡åå·²å®è£
ïŒHODå°±çšå®ïŒåŠå就䜿çšé»è®€çæš¡åã</li> |
---|
333 | |
---|
334 | |
---|
335 | <li> |
---|
336 | <a href="http://hadoop.apache.org/core/">Hadoop</a>ïŒHODèœèªåšå°Hadoopååå°é矀çææèç¹äžãäžè¿ïŒåŠæHadoopåšææèç¹äžå·²ç»å¯çšïŒHODä¹å¯ä»¥äœ¿çšå·²ç»å®è£
奜çHadoopãHODç®åæ¯æHadoop 0.15åå
¶åç»çæ¬ã</li> |
---|
337 | |
---|
338 | </ul> |
---|
339 | <p>泚é: HODçé
眮éèŠä»¥äžè¿äºç»ä»¶çå®è£
äœçœ®åšé矀ææèç¹äžä¿æäžèŽãåŠæåšæ亀èç¹äžçå®è£
äœçœ®ä¹çžåïŒé
眮起æ¥äŒæŽç®åã</p> |
---|
340 | </div> |
---|
341 | |
---|
342 | |
---|
343 | <a name="N1008D"></a><a name="%E8%B5%84%E6%BA%90%E7%AE%A1%E7%90%86%E5%99%A8"></a> |
---|
344 | <h2 class="h3">èµæºç®¡çåš</h2> |
---|
345 | <div class="section"> |
---|
346 | <p>ç®åïŒHOD䜿çšTorqueèµæºç®¡çåšæ¥åé
èç¹åæ亀äœäžãTorqueæ¯äžäžªåŒæºçèµæºç®¡çåšïŒæ¥èªäº<a href="http://www.clusterresources.com">Cluster Resources</a>ïŒæ¯äžäžªç€ŸåºåºäºPBS项ç®åªåçç»æ¶ãå®æäŸå¯¹æ¹å€çäœäžååæ£ç计ç®èç¹(Compute nodes)çæ§å¶ãäœ å¯ä»¥èªç±å°ä»<a href="http://www.clusterresources.com/downloads/torque/">æ€å€</a>äžèœœTorqueã</p> |
---|
347 | <p>æætorqueçžå
³çææ¡£å¯ä»¥åš<a href="http://www.clusterresources.com/pages/resources/documentation.php">è¿å¿</a>çTORQUE Resource ManageräžèæŸå°ãåš<a href="http://www.clusterresources.com/wiki/doku.php?id=torque:torque_wiki">è¿é</a>å¯ä»¥çå°wikiææ¡£ãåŠææ³è®¢é
TORQUEçé®ä»¶åè¡šææ¥çé®é¢åæ¡£ïŒè®¿é®<a href="http://www.clusterresources.com/pages/resources/mailing-lists.php">è¿é</a>ã</p> |
---|
348 | <p>䜿çšåžŠTorqueçHODïŒ</p> |
---|
349 | <ul> |
---|
350 | |
---|
351 | <li>å®è£
Torqueç»ä»¶ïŒåšäžäžªèç¹äž(head node)å®è£
pbs_serverïŒææ计ç®èç¹äžå®è£
pbs_momïŒææ计ç®èç¹åæ亀èç¹äžå®è£
PBS客æ·ç«¯ãè³å°åæåºæ¬çé
眮ïŒäœ¿Torqueç³»ç»è·èµ·æ¥ïŒä¹å°±æ¯ïŒäœ¿pbs_serverèœç¥é该ååªäºæºåšéè¯ãæ¥ç<a href="http://www.clusterresources.com/wiki/doku.php?id=torque:1.2_basic_configuration">è¿é</a>å¯ä»¥äºè§£åºæ¬é
眮ãèŠäºè§£é«çº§é
眮ïŒè¯·æ¥ç<a href="http://www.clusterresources.com/wiki/doku.php?id=torque:1.3_advanced_configuration">è¿é</a>ã</li> |
---|
352 | |
---|
353 | <li>åšpbs_serveräžå建äžäžªäœäžæ亀éåãéåçåååHODçé
眮åæ°resource-manager.queueçžåãHod客æ·ç«¯å©çšæ€éåæ亀RingMasterè¿çšäœäžºTorqueäœäžã</li> |
---|
354 | |
---|
355 | <li>åšé矀çææèç¹äžæå®äžäžªcluster nameäœäžºpropertyãè¿å¯ä»¥çšqmgråœä»€åå°ãæ¯åŠïŒ<span class="codefrag">qmgr -c "set node node properties=cluster-name"</span>ãé矀åååHODçé
眮åæ°hod.clusteræ¯çžåçã</li> |
---|
356 | |
---|
357 | <li>ç¡®ä¿äœäžå¯ä»¥æ亀å°èç¹äžå»ãè¿å¯ä»¥éè¿äœ¿çšqsubåœä»€åå°ãæ¯åŠïŒ<span class="codefrag">echo "sleep 30" | qsub -l nodes=3</span> |
---|
358 | </li> |
---|
359 | |
---|
360 | </ul> |
---|
361 | </div> |
---|
362 | |
---|
363 | |
---|
364 | <a name="N100CD"></a><a name="%E5%AE%89%E8%A3%85HOD"></a> |
---|
365 | <h2 class="h3">å®è£
HOD</h2> |
---|
366 | <div class="section"> |
---|
367 | <p>ç°åšèµæºç®¡çåšå·²ç»å®è£
奜äºïŒæ们æ¥çäžèœœå¹¶å®è£
HODã</p> |
---|
368 | <ul> |
---|
369 | |
---|
370 | <li>åŠæäœ æ³ä»Hadoop tarå
äžè·åHODïŒå®åš'contrib'äžç'hod'çæ ¹ç®åœäžã</li> |
---|
371 | |
---|
372 | <li>åŠæäœ ä»çŒè¯æºç ïŒå¯ä»¥åšHadoopæ ¹ç®åœäžçè¿è¡ant tar, çæHadoop tarå
ãç¶åä»è·åHODïŒåç
§äžé¢ã</li> |
---|
373 | |
---|
374 | <li>æè¿äžªç®åœäžçæææ件ååå°é矀çææèç¹äžã泚ææ件æ·èŽçäœçœ®åºåšææèç¹äžä¿æäžèŽã</li> |
---|
375 | |
---|
376 | <li>泚æïŒçŒè¯hadoopæ¶äŒå建HODïŒåæ¶äŒæ£ç¡®å°è®Ÿçœ®ææHODå¿
é¡»çèæ¬æ件çæéã</li> |
---|
377 | |
---|
378 | </ul> |
---|
379 | </div> |
---|
380 | |
---|
381 | |
---|
382 | <a name="N100E6"></a><a name="%E9%85%8D%E7%BD%AEHOD"></a> |
---|
383 | <h2 class="h3">é
眮HOD</h2> |
---|
384 | <div class="section"> |
---|
385 | <p>å®è£
HODåäœ å°±å¯ä»¥é
眮å®ã䞺äºè¿è¡HODéèŠåçæå°é
眮äŒåšäžé¢è®²è¿°ïŒæŽå€é«çº§çé
眮äŒåšHODé
眮æåéé¢è®²è§£ã</p> |
---|
386 | <a name="N100EF"></a><a name="%E6%9C%80%E5%B0%8F%E9%85%8D%E7%BD%AE"></a> |
---|
387 | <h3 class="h4">æå°é
眮</h3> |
---|
388 | <p>䞺è¿è¡HODïŒä»¥äžçæå°é
眮æ¯å¿
é¡»èŠåçïŒ</p> |
---|
389 | <ul> |
---|
390 | |
---|
391 | <li>åšäœ æ³èŠè¿è¡hodçèç¹äžïŒçŒèŸ<install dir>/confç®åœäžçhodrcæ件ãè¿äžªæ件å
å«äºè¿è¡hodæå¿
éçæå°éç讟眮ã</li> |
---|
392 | |
---|
393 | <li> |
---|
394 | |
---|
395 | <p>䞺è¿äžªé
眮æ件äžçå®ä¹çåéæå®éåäœ ç¯å¢çåŒã泚æïŒæäºåéåšæ件äžåºç°äºäžæ¢äžæ¬¡ã</p> |
---|
396 | |
---|
397 | |
---|
398 | <ul> |
---|
399 | |
---|
400 | <li>${JAVA_HOME}ïŒHadoopçJavaçå®è£
äœçœ®ãHadoopæ¯æSun JDK 1.5.xå以äžçæ¬ã</li> |
---|
401 | |
---|
402 | <li>${CLUSTER_NAME}ïŒé矀å称ïŒç±'node property'æå®ïŒåšèµæºç®¡çåšé
眮äžæŸæå°è¿ã</li> |
---|
403 | |
---|
404 | <li>${HADOOP_HOME}ïŒHadoopåšè®¡ç®èç¹åæ亀èç¹äžçå®è£
äœçœ®ã</li> |
---|
405 | |
---|
406 | <li>${RM_QUEUE}ïŒåšèµæºç®¡çåšé
眮äžè®Ÿçœ®çäœäžæ亀éåã</li> |
---|
407 | |
---|
408 | <li>${RM_HOME}ïŒèµæºç®¡çåšåšè®¡ç®èç¹åæ亀èç¹çå®è£
äœçœ®ã</li> |
---|
409 | |
---|
410 | </ul> |
---|
411 | |
---|
412 | </li> |
---|
413 | |
---|
414 | |
---|
415 | <li> |
---|
416 | |
---|
417 | <p>以äžç¯å¢åéå¯èœéèŠè®Ÿçœ®ïŒåå³äºäœ çç³»ç»ç¯å¢ãåšäœ è¿è¡HOD客æ·ç«¯çå°æ¹è¿äºåéå¿
须被å®ä¹ïŒä¹å¿
é¡»åšHODé
眮æ件äžéè¿è®Ÿå®resource_manager.env-varsçåŒæå®ãå€äžªåéå¯æå®äžºçšéå·åéçkey=value对ç»æçåè¡šã</p> |
---|
418 | |
---|
419 | <ul> |
---|
420 | |
---|
421 | <li>HOD_PYTHON_HOMEïŒåŠæpythonå®è£
åšè®¡ç®èç¹ææ亀èç¹çéé»è®€äœçœ®ïŒé£ä¹è¿äžªåŒå¿
须讟å®äžºpythonçå¯æ§è¡æ件çå®é
äœçœ®ã</li> |
---|
422 | |
---|
423 | </ul> |
---|
424 | |
---|
425 | </li> |
---|
426 | |
---|
427 | </ul> |
---|
428 | <a name="N10123"></a><a name="%E9%AB%98%E7%BA%A7%E9%85%8D%E7%BD%AE"></a> |
---|
429 | <h3 class="h4">é«çº§é
眮</h3> |
---|
430 | <p>äœ å¯ä»¥æ£æ¥åä¿®æ¹å
¶å®é
眮é项æ¥æ»¡è¶³äœ çç¹å®éèŠãå
³äºHODé
眮çæŽå€ä¿¡æ¯ïŒè¯·åè<a href="hod_config_guide.html">é
眮æå</a>ã</p> |
---|
431 | </div> |
---|
432 | |
---|
433 | <a name="N10132"></a><a name="%E8%BF%90%E8%A1%8CHOD"></a> |
---|
434 | <h2 class="h3">è¿è¡HOD</h2> |
---|
435 | <div class="section"> |
---|
436 | <p>åœHODé
眮奜åïŒäœ å°±å¯ä»¥è¿è¡å®äºãæŽå€ä¿¡æ¯è¯·åè<a href="hod_user_guide.html">HODçšæ·æå</a>ã</p> |
---|
437 | </div> |
---|
438 | |
---|
439 | |
---|
440 | <a name="N10140"></a><a name="%E6%94%AF%E6%8C%81%E5%B7%A5%E5%85%B7%E5%92%8C%E5%AE%9E%E7%94%A8%E7%A8%8B%E5%BA%8F"></a> |
---|
441 | <h2 class="h3">æ¯æå·¥å
·åå®çšçšåº</h2> |
---|
442 | <div class="section"> |
---|
443 | <p>æ€èæè¿°äžäºå¯çšäºç®¡çHODéšçœ²çæ¯æå·¥å
·ååºçšçšåºã</p> |
---|
444 | <a name="N10149"></a><a name="logcondense.py+-+%E7%AE%A1%E7%90%86%E6%97%A5%E5%BF%97%E6%96%87%E4%BB%B6"></a> |
---|
445 | <h3 class="h4">logcondense.py - 管çæ¥å¿æ件</h3> |
---|
446 | <p>åš<a href="hod_user_guide.html#%E6%94%B6%E9%9B%86%E5%92%8C%E6%9F%A5%E7%9C%8BHadoop%E6%97%A5%E5%BF%97">HODçšæ·æå</a>ææå°ïŒHODå¯é
眮æå°Hadoopæ¥å¿äžäŒ å°äžäžªé
眮奜çéæHDFSäžãéçæ¶éŽå¢å ïŒæ¥å¿æ°éäŒäžæå¢é¿ãlogcondense.pyå¯ä»¥åž®å©ç®¡çåæž
çäžäŒ å°HDFSçæ¥å¿æ件ã</p> |
---|
447 | <a name="N10156"></a><a name="%E8%BF%90%E8%A1%8Clogcondense.py"></a> |
---|
448 | <h4>è¿è¡logcondense.py</h4> |
---|
449 | <p>logcondense.pyåšhod_install_location/supportæ件倹äžãäœ å¯ä»¥äœ¿çšpythonå»è¿è¡å®ïŒæ¯åŠ<em>python logcondense.py</em>ïŒæè
æ以æ§è¡æéïŒçŽæ¥è¿è¡<em>logcondense.py</em>ãåŠæå¯çšäºæéïŒlogcondense.pyéèŠè¢«æ足å€æéïŒèœå é€HDFSäžäžäŒ ç®åœäžæ¥å¿æ件ççšæ·è¿è¡ãæ¯åŠïŒåš<a href="hod_config_guide.html#3.7+hodring%E7%9A%84%E9%85%8D%E7%BD%AE%E9%A1%B9">é
眮æå</a>äžæåè¿ïŒçšæ·å¯ä»¥é
眮å°æ¥å¿æŸåšHDFSäžçå
¶äž»ç®åœäžãåšè¿ç§æ
åµäžïŒäœ éèŠå
·æè¶
级çšæ·æéïŒæèœè¿è¡logcondense.pyå é€ææçšæ·äž»ç®åœäžçæ¥å¿æ件ã</p> |
---|
450 | <a name="N1016A"></a><a name="logcondense.py%E7%9A%84%E5%91%BD%E4%BB%A4%E8%A1%8C%E9%80%89%E9%A1%B9"></a> |
---|
451 | <h4>logcondense.pyçåœä»€è¡é项</h4> |
---|
452 | <p>logcondense.pyæ¯æ以äžåœä»€è¡é项</p> |
---|
453 | <table class="ForrestTable" cellspacing="1" cellpadding="4"> |
---|
454 | |
---|
455 | <tr> |
---|
456 | |
---|
457 | <td colspan="1" rowspan="1">çé项</td> |
---|
458 | <td colspan="1" rowspan="1">é¿é项</td> |
---|
459 | <td colspan="1" rowspan="1">å«ä¹</td> |
---|
460 | <td colspan="1" rowspan="1">äŸå</td> |
---|
461 | |
---|
462 | </tr> |
---|
463 | |
---|
464 | <tr> |
---|
465 | |
---|
466 | <td colspan="1" rowspan="1">-p</td> |
---|
467 | <td colspan="1" rowspan="1">--package</td> |
---|
468 | <td colspan="1" rowspan="1">hadoopèæ¬çå
šè·¯åŸãHadoopççæ¬å¿
é¡»åè¿è¡HDFSççæ¬äžèŽã</td> |
---|
469 | <td colspan="1" rowspan="1">/usr/bin/hadoop</td> |
---|
470 | |
---|
471 | </tr> |
---|
472 | |
---|
473 | <tr> |
---|
474 | |
---|
475 | <td colspan="1" rowspan="1">-d</td> |
---|
476 | <td colspan="1" rowspan="1">--days</td> |
---|
477 | <td colspan="1" rowspan="1">å é€è¶
è¿æå®å€©æ°çæ¥å¿æ件</td> |
---|
478 | <td colspan="1" rowspan="1">7</td> |
---|
479 | |
---|
480 | </tr> |
---|
481 | |
---|
482 | <tr> |
---|
483 | |
---|
484 | <td colspan="1" rowspan="1">-c</td> |
---|
485 | <td colspan="1" rowspan="1">--config</td> |
---|
486 | <td colspan="1" rowspan="1">Hadoopé
眮ç®åœçè·¯åŸïŒhadoop-site.xmlååšäºæ€ç®åœäžãhadoop-site.xmläžé¡»ææåŸ
å é€æ¥å¿åæŸçHDFSçNameNodeã</td> |
---|
487 | <td colspan="1" rowspan="1">/home/foo/hadoop/conf</td> |
---|
488 | |
---|
489 | </tr> |
---|
490 | |
---|
491 | <tr> |
---|
492 | |
---|
493 | <td colspan="1" rowspan="1">-l</td> |
---|
494 | <td colspan="1" rowspan="1">--logs</td> |
---|
495 | <td colspan="1" rowspan="1">äžäžªHDFSè·¯åŸïŒé¡»ålog-destination-uriæå®çæ¯åäžäžªHDFSè·¯åŸïŒäžåžŠhdfs:// URIäž²ïŒè¿ç¹åš<a href="hod_config_guide.html#3.7+hodring%E7%9A%84%E9%85%8D%E7%BD%AE%E9%A1%B9">é
眮æå</a>äžæå°è¿ã</td> |
---|
496 | <td colspan="1" rowspan="1">/user</td> |
---|
497 | |
---|
498 | </tr> |
---|
499 | |
---|
500 | <tr> |
---|
501 | |
---|
502 | <td colspan="1" rowspan="1">-n</td> |
---|
503 | <td colspan="1" rowspan="1">--dynamicdfs</td> |
---|
504 | <td colspan="1" rowspan="1">åŠæ䞺trueïŒlogcondense.pyé€èŠå é€Map/Reduceæ¥å¿ä¹å€è¿éå é€HDFSæ¥å¿ãåŠåïŒå®åªå é€Map/Reduceæ¥å¿ïŒè¿ä¹æ¯äžæå®è¿äžªé项æ¶çé»è®€è¡äžºãè¿äžªé项对äžé¢çæ
åµéåžžæçšïŒäžäžªåšæçHDFSç±HODäŸåºïŒäžäžªéæçHDFSçšæ¥æ¶éæ¥å¿æ件 - ä¹è®žè¿æ¯æµè¯é矀äžäžäžªéåžžæ®éç䜿çšåºæ¯ã</td> |
---|
505 | <td colspan="1" rowspan="1">false</td> |
---|
506 | |
---|
507 | </tr> |
---|
508 | |
---|
509 | </table> |
---|
510 | <p>æ¯åŠïŒååŠèŠå é€ææ7倩ä¹åçæ¥å¿æ件ïŒhadoop-site.xmlåæŸåš~/hadoop-confäžïŒhadoopå®è£
äº~/hadoop-0.17.0ïŒäœ å¯ä»¥è¿æ ·ïŒ</p> |
---|
511 | <p> |
---|
512 | <em>python logcondense.py -p ~/hadoop-0.17.0/bin/hadoop -d 7 -c ~/hadoop-conf -l /user</em> |
---|
513 | </p> |
---|
514 | <a name="N1020D"></a><a name="checklimits.sh+-+%E7%9B%91%E8%A7%86%E8%B5%84%E6%BA%90%E9%99%90%E5%88%B6"></a> |
---|
515 | <h3 class="h4">checklimits.sh - çè§èµæºéå¶</h3> |
---|
516 | <p>checklimits.shæ¯äžäžªé对Torque/Mauiç¯å¢çHODå·¥å
·ïŒ<a href="http://www.clusterresources.com/pages/products/maui-cluster-scheduler.php">Mauié矀è°åºŠåš</a> æ¯äžäžªçšäºé矀åè¶
级计ç®æºçåŒæºäœäžè°åºŠåšïŒæ¥èªclusterresourccesïŒãåœæ°æ亀çäœäžè¿åæè¶
è¿çšæ·åšMauiè°åºŠåšé讟眮çéå¶æ¶ïŒchecklimits.shèæ¬æŽæ°torqueçcommentå段ãå®äœ¿çšqstatåštorqueçjob-listäžåäžæ¬¡éåç¡®å®äœäžæ¯åšéåäžè¿æ¯å·²å®æïŒè¿è¡Mauiå·¥å
·checkjobæ£æ¥æ¯äžäžªäœäžæ¯åŠè¿åçšæ·éå¶è®Ÿå®ïŒä¹åè¿è¡torqueçqalterå·¥å
·æŽæ°äœäžç'comment'çå±æ§ãåœåïŒå®æé£äºè¿åéå¶çäœäžçcommentçåŒæŽæ°äžº<em>User-limits exceeded. Requested:([0-9]*) Used:([0-9]*) MaxLimit:([0-9]*)</em>ãä¹åïŒHODæ ¹æ®è¿äžªæ³šéå
容ååºçžåºå€çã |
---|
517 | </p> |
---|
518 | <a name="N1021D"></a><a name="%E8%BF%90%E8%A1%8Cchecklimits.sh"></a> |
---|
519 | <h4>è¿è¡checklimits.sh</h4> |
---|
520 | <p>checklimits.shå¯ä»¥åšhod_install_location/supportç®åœäžäžæŸå°ãåšå
·æåŸæ§è¡æéåïŒè¿äžªshellèæ¬å¯ä»¥çŽæ¥éè¿<em>sh checklimits.sh </em>æè
<em>./checklimits.sh</em>è¿è¡ãè¿äžªå·¥å
·è¿è¡çæºåšäžåºæTorqueåMauiçäºè¿å¶è¿è¡æ件ïŒå¹¶äžè¿äºæ件èŠåšè¿äžªshellèæ¬è¿çšçè·¯åŸäžã䞺äºæŽæ°äžåçšæ·äœäžçcommentåŒïŒè¿äžªå·¥å
·å¿
须以torqueç管çåæéè¿è¡ãè¿äžªå·¥å
·å¿
é¡»æç
§äžå®æ¶éŽéŽééå€è¿è¡ïŒæ¥ä¿è¯æŽæ°jobç纊ææ¡ä»¶ïŒæ¯åŠå¯ä»¥éè¿cronã请泚æïŒè¿äžªèæ¬äžçšå°çèµæºç®¡çåšåè°åºŠåšåœä»€è¿è¡ä»£ä»·å¯èœäŒæ¯ä»·å€§ïŒæ以æ奜äžèŠåšæ²¡æsleepingç玧å埪ç¯äžè¿è¡ã |
---|
521 | </p> |
---|
522 | <a name="N1022E"></a><a name="verify-account+-+%E7%94%A8%E4%BA%8E%E6%A0%B8%E5%AE%9E%E7%94%A8%E6%88%B7%E6%8F%90%E4%BA%A4%E4%BD%9C%E4%B8%9A%E6%89%80%E4%BD%BF%E7%94%A8%E7%9A%84%E5%B8%90%E5%8F%B7%E7%9A%84%E8%84%9A%E6%9C%AC"></a> |
---|
523 | <h3 class="h4">verify-account - çšäºæ žå®çšæ·æ亀äœäžæ䜿çšçåžå·çèæ¬</h3> |
---|
524 | <p>ç产系ç»äžè¬äœ¿çšåžå·ç³»ç»æ¥å¯¹äœ¿çšå
±äº«èµæºççšæ·æ¶èŽ¹ãHODæ¯æäžäžªå«<em>resource_manager.pbs-account</em>çåæ°ïŒçšæ·å¯ä»¥éè¿è¿äžªåæ°æ¥æå®æ亀äœäžæ¶äœ¿çšçåžå·ãæ žå®è¿äžªåžæ·åšåžå·ç®¡çç³»ç»äžçæææ§æ¯æå¿
èŠçãèæ¬<em>hod-install-dir/bin/verify-account</em>æäŸäºäžç§æºå¶è®©çšæ·æå
¥èªå®ä¹èæ¬æ¥å®ç°è¿äžªæ žå®è¿çšã</p> |
---|
525 | <a name="N1023D"></a><a name="%E5%9C%A8HOD%E4%B8%AD%E9%9B%86%E6%88%90verify-account"></a> |
---|
526 | <h4>åšHODäžéæverify-account</h4> |
---|
527 | <p>åšåé
é矀ä¹åïŒHODè¿è¡<em>verify-account</em>èæ¬ïŒå°<em>resource_manager.pbs-account</em>çåŒäœäžºåæ°äŒ éç»çšæ·èªå®ä¹èæ¬æ¥å®æçšæ·ç确讀ãç³»ç»è¿å¯ä»¥éè¿è¿ç§æ¹åŒæ¥å代å®æ¬èº«çåžå·ç³»ç»ãè¥è¯¥çšæ·èæ¬äžçè¿ååŒé0ïŒå°±äŒå¯ŒèŽHODåé
é矀倱莥ã并äžåšåçé误æ¶ïŒHODè¿äŒå°èæ¬äžäº§ççé误信æ¯æå°åºæ¥ãéè¿è¿ç§æ¹åŒïŒä»»äœæè¿°æ§çé误信æ¯éœå¯ä»¥ä»çšæ·èæ¬äžè¿åç»çšæ·ã |
---|
528 | </p> |
---|
529 | <p>åšHODäžèªåžŠçé»è®€èæ¬æ¯äžåä»»äœççšæ·æ žå®ïŒå¹¶è¿å0ã</p> |
---|
530 | <p>åŠæHOD没ææŸå°äžé¢æå°çverify-accountèæ¬ïŒHODå°±äŒè®€äžºè¯¥çšæ·æ žå®çåèœè¢«å
³éïŒç¶å继ç»èªå·±ä»¥åçåé
å·¥äœã</p> |
---|
531 | </div> |
---|
532 | |
---|
533 | </div> |
---|
534 | <!--+ |
---|
535 | |end content |
---|
536 | +--> |
---|
537 | <div class="clearboth"> </div> |
---|
538 | </div> |
---|
539 | <div id="footer"> |
---|
540 | <!--+ |
---|
541 | |start bottomstrip |
---|
542 | +--> |
---|
543 | <div class="lastmodified"> |
---|
544 | <script type="text/javascript"><!-- |
---|
545 | document.write("Last Published: " + document.lastModified); |
---|
546 | // --></script> |
---|
547 | </div> |
---|
548 | <div class="copyright"> |
---|
549 | Copyright © |
---|
550 | 2007 <a href="http://www.apache.org/licenses/">The Apache Software Foundation.</a> |
---|
551 | </div> |
---|
552 | <!--+ |
---|
553 | |end bottomstrip |
---|
554 | +--> |
---|
555 | </div> |
---|
556 | </body> |
---|
557 | </html> |
---|