Welkom op de Nederland Computer Kennisnetwerk!  
 
Zoeken computer kennis
Home Hardware Netwerken Programmering Software Computerstoring Besturingssysteem
Computer Kennis >> Programmering >> Computer Programming Languages >> Content
Hoe een Inverted Index Met Build MapReduce
MapReduce is een parallel programmeren model ontwikkeld in Google voor grote datasets . Het verwerkt de gegevens in brokken in plaats van in de juiste volgorde . Daarbij baseert zij zich op een kaart van gepaarde ingang functies ( keys ) en waarden die hij vervolgens zet door de verminder -functie - dus , zijn naam - om de gegevens begrijpelijker te maken . In plaats van het verstrekken van de kaart functie met een sleutel en waarde , een geïnverteerde index paar woorden en documenten naar tekst zoeken . U kunt gebruik maken van omgekeerde indexen in MapReduce om een index voor een trefwoord zoeken te creëren , bijvoorbeeld . Instructies

Type 1 de volgende code voor de map -functie :

public static class InvertedIndexerMapper
breidt MapReduceBaseimplements Mapper { private laatste statische tekst woord = new tekst ( ) ; private final static tekst locatie = nieuwe tekst ( ) ;

public void plattegrond ( LongWritable sleutel , tekst val , OutputCollector uitgang , Reporter verslaggever ) gooit IOException { FileSplit fileSplit = ( FileSplit ) reporter.getInputSplit ( ) ; String fileName = fileSplit.getPath ( ) getName ( ) ; location.set ( fileName ) ;

String lijn
- val.toString ( ) ; . StringTokenizer ITR = new StringTokenizer ( line. toLowerCase ( ) ) , terwijl ( itr.hasMoreTokens ( ) ) { word.set ( itr.nextToken ( ) ) ; output.collect ( woord , locatie ) ; } } }

Type 2 de volgende code voor het verminderen functie :

public static class InvertedIndexerReducer
breidt MapReduceBaseimplements Reducer { public void verminderen ( tekst sleutel , Iterator waarden , OutputCollector uitgang , Reporter verslaggever ) gooit IOException { boolean eerste = true; StringBuilder toreturn = new StringBuilder ( ) , terwijl ( values.hasNext ( ) ) {if ( eerste ) toReturn.append ( ' , ' ) ; ! eerste = false; toreturn . append ( . values.next ( ) toString ( ) ) ;} output.collect ( key , nieuwe tekst ( toReturn.toString ( ) ) ) ; } }
3

Typ de volgende code om de omgekeerde index voltooien :

public static void main ( String [ ] args ) op Twitter gooit IOException { if ( args.length < 2 ) { System.outprintln ( " Usage : InvertedIndex < ; papierbaan > ' ) ; System.exit ( 1 ) ; } JobConf conf = new JobConf ( InvertedIndex.class ) ; conf.setJobName ( " InvertedIndex " ) ;

conf.setOutputKeyClass
( Text.class ) ; conf.setOutputValueClass ( Text.class ) ;

conf.setMapperClass
( InvertedIndexerMapper.class ) ; conf.setReducerClass ( InvertedIndexerReducer.class ) ;

FileInputFormat.setInputPaths
( conf , nieuwe Pad ( args [ 0 ] ) ) ; FileOutputFormat.setOutputPath ( conf , nieuwe Pad ( args [ 1 ] ) ) ; try { JobClient.runJob ( conf ) ;} catch ( Exception e ) { e.pringStackTrace ( ) ; } }

Previous: Next:
  Computer Programming Languages
·Hoe maak je een Spinner voor e…
·Master Methode voor herhaling 
·Hoe te Lines Van tekstbestand …
·Application Prototype Developm…
·Hoe kan ik HTML Inline -elemen…
·Hoe je de hoogte en breedte op…
·Hoe maak je een Bluetooth Appl…
·Hoe de gedeelde map in 3ami Ve…
·Verschil tussen een Shell Scri…
  Related Articles
Hoe maak je een Combo Box Maak in Visual…
Hoe maak je een Check Box Maak in Visual…
Hoe maak je een tekstvak maken in Visual…
Hoe maak je een optie Box in Visual Basi…
Hoe maak je een schijf keuzelijst in Vis…
Hoe kan ik een keuzelijst maken in Visua…
Hoe kan ik een Picture Box Maak in Visua…
Hoe een bestand keuzelijst Maak in Visua…
Hoe kan ik een afbeelding Box Maak in Vi…
  Programmering Articles
·Hoe te Klassediagrammen Creëren 
·Hoe Word- documenten met behulp van VB6 …
·Hoe maak je een CSV-bestand maken in Jav…
·Geavanceerde PHP Training 
·Hoe te gebruiken Visual C 6 
·Java Script Vs . PHP 
·Hoe de PHP extensie in Apache verbergen 
·Hoe te PYD bestanden bewerken 
·JavaScript vs Java-applets Robuust 
Copyright © Computer Kennis http://www.nldit.com