Thread View: nl.comp.os.linux.netwerken
14 messages
14 total messages
Started by user
Sun, 19 Sep 2010 19:10
sneller ftp van 30.000 docs
Author: user
Date: Sun, 19 Sep 2010 19:10
Date: Sun, 19 Sep 2010 19:10
14 lines
1542 bytes
1542 bytes
ipv weex, en per doc uploaden heb ik al eens gelezen van zoiets als een tar.gz uploaden, dan een cmd en de server plooit alles netjes open. Hoe zou het gaan?? Merci Marc -- -- What's on Shortwave guide: choose an hour, go! http://shortwave.tk 700+ Radio Stations on SW http://swstations.tk 300+ languages on SW http://radiolanguages.tk
Re: sneller ftp van 30.000 docs
Author: John Bokma
Date: Sun, 19 Sep 2010 19:48
Date: Sun, 19 Sep 2010 19:48
16 lines
1548 bytes
1548 bytes
user <no@thanks.be> writes:
> ipv weex, en per doc uploaden heb ik al eens gelezen
> van zoiets als een tar.gz uploaden, dan een cmd en de
> server plooit alles netjes open.
>
> Hoe zou het gaan??
kan je de server op met ssh?
--
John Bokma j3b
Blog: http://johnbokma.com/ Facebook: http://www.facebook.com/j.j.j.bokma
Freelance Perl & Python Development: http://castleamber.com/
Re: sneller ftp van 30.000 docs
Author: Rikishi42
Date: Sun, 19 Sep 2010 22:18
Date: Sun, 19 Sep 2010 22:18
19 lines
1645 bytes
1645 bytes
On 2010-09-19, John Bokma <john@castleamber.com> wrote:
> user <no@thanks.be> writes:
>
>> ipv weex, en per doc uploaden heb ik al eens gelezen
>> van zoiets als een tar.gz uploaden, dan een cmd en de
>> server plooit alles netjes open.
>>
>> Hoe zou het gaan??
>
> kan je de server op met ssh?
Als dat het geval is, kan je mmisschien zelfs ftp oveslaan en rsync
gebruiken.
--
When in doubt, use brute force.
-- Ken Thompson
Re: sneller ftp van 30.000 docs
Author: John Bokma
Date: Mon, 20 Sep 2010 02:17
Date: Mon, 20 Sep 2010 02:17
25 lines
2045 bytes
2045 bytes
Rikishi42 <skunkworks@rikishi42.net> writes:
> On 2010-09-19, John Bokma <john@castleamber.com> wrote:
>> user <no@thanks.be> writes:
>>
>>> ipv weex, en per doc uploaden heb ik al eens gelezen
>>> van zoiets als een tar.gz uploaden, dan een cmd en de
>>> server plooit alles netjes open.
>>>
>>> Hoe zou het gaan??
>>
>> kan je de server op met ssh?
>
> Als dat het geval is, kan je mmisschien zelfs ftp oveslaan en rsync
> gebruiken.
Yup, hoewel ik denk dat als je 30K docs in 1x wilt overzetten dit
sneller gaat door een tarball over te zenden en uit te pakken,
on-the-fly, dan met rsync.
--
John Bokma j3b
Blog: http://johnbokma.com/ Facebook: http://www.facebook.com/j.j.j.bokma
Freelance Perl & Python Development: http://castleamber.com/
Re: sneller ftp van 30.000 docs
Author: Fred Mobach
Date: Mon, 20 Sep 2010 08:27
Date: Mon, 20 Sep 2010 08:27
35 lines
2537 bytes
2537 bytes
John Bokma wrote: > Rikishi42 <skunkworks@rikishi42.net> writes: > >> On 2010-09-19, John Bokma <john@castleamber.com> wrote: >>> user <no@thanks.be> writes: >>> >>>> ipv weex, en per doc uploaden heb ik al eens gelezen >>>> van zoiets als een tar.gz uploaden, dan een cmd en de >>>> server plooit alles netjes open. >>>> >>>> Hoe zou het gaan?? >>> >>> kan je de server op met ssh? >> >> Als dat het geval is, kan je mmisschien zelfs ftp oveslaan en rsync >> gebruiken. > > Yup, hoewel ik denk dat als je 30K docs in 1x wilt overzetten dit > sneller gaat door een tarball over te zenden en uit te pakken, > on-the-fly, dan met rsync. Dat zou best eens mee kunnen vallen. Als men rsync gebruikt hoeft er niet voor verzending en na ontvangst zowel tar als gzip gedraaid te worden, want dat wordt dan door rsync zelf verwerkt. En qua disk I/O maakt het ook al niet uit door wie die verzorgd wordt. Aan de andere kant heeft tar ook zijn voordelen in het gebruik. Oftewel, eigenlijk is het gebruik van SSH de meest doorslaggevende factor. Maar daar had je al naar gevraagd. -- Fred Mobach - fred@mobach.nl website : https://fred.mobach.nl .... In God we trust .... .. The rest we monitor ..
Re: sneller ftp van 30.000 docs
Author: Bas Janssen
Date: Mon, 20 Sep 2010 14:45
Date: Mon, 20 Sep 2010 14:45
23 lines
1857 bytes
1857 bytes
user schreef: > ipv weex, en per doc uploaden heb ik al eens gelezen > van zoiets als een tar.gz uploaden, dan een cmd en de > server plooit alles netjes open. > > Hoe zou het gaan?? > > Merci > Marc Als je geen overhead wilt hebben van ssh of smb, en je wilt tussen 2 machines in een vertrouwde netwerk omgeving tig duizenden files van machine a naar b zetten, kan je eventueel ook netcat gebruiken icm tar: Zie: http://bas.dds.nl/wordpress/?p=252 Is in mijn ervaring vaak de snelste manier van kopieren van *heel veel* kleine files. -- Bas Janssen /. bas@dds.nl /. www.bas.dds.nl /. PGP#0x22FA2C9F The world is run by idiots because they're more efficient than hamsters.
Re: sneller ftp van 30.000 docs
Author: John Bokma
Date: Mon, 20 Sep 2010 15:01
Date: Mon, 20 Sep 2010 15:01
28 lines
1913 bytes
1913 bytes
Bas Janssen <bas@dds.nl> writes:
> user schreef:
>> ipv weex, en per doc uploaden heb ik al eens gelezen
>> van zoiets als een tar.gz uploaden, dan een cmd en de
>> server plooit alles netjes open.
>>
>> Hoe zou het gaan??
>>
>> Merci
>> Marc
>
> Als je geen overhead wilt hebben van ssh of smb, en je wilt tussen 2
> machines in een vertrouwde netwerk omgeving tig duizenden files van
> machine a naar b zetten, kan je eventueel ook netcat gebruiken icm tar:
>
> Zie: http://bas.dds.nl/wordpress/?p=252
>
> Is in mijn ervaring vaak de snelste manier van kopieren van *heel veel*
> kleine files.
Nuttig, thanks.
--
John Bokma j3b
Blog: http://johnbokma.com/ Facebook: http://www.facebook.com/j.j.j.bokma
Freelance Perl & Python Development: http://castleamber.com/
Re: sneller ftp van 30.000 docs
Author: user
Date: Mon, 20 Sep 2010 19:12
Date: Mon, 20 Sep 2010 19:12
26 lines
1762 bytes
1762 bytes
John Bokma wrote: > kan je de server op met ssh? > ftp.fulladsl.be ik denk van niet www.fulladsl.be ---> http://myaccount.fulladsl.be/Technical/Webspace.aspx wellicht kan ik niet zo inloggen op de server, maar ik dacht dat sommige ftp een tar.gz konden "interpreteren", mits weetikveel... Alvast bedankt -- -- What's on Shortwave guide: choose an hour, go! http://shortwave.tk 700+ Radio Stations on SW http://swstations.tk 300+ languages on SW http://radiolanguages.tk
Re: sneller ftp van 30.000 docs
Author: John Bokma
Date: Mon, 20 Sep 2010 20:09
Date: Mon, 20 Sep 2010 20:09
29 lines
1942 bytes
1942 bytes
user <no@thanks.be> writes:
> John Bokma wrote:
>
>> kan je de server op met ssh?
>>
>
>
> ftp.fulladsl.be
>
> ik denk van niet
>
> www.fulladsl.be --->
> http://myaccount.fulladsl.be/Technical/Webspace.aspx
>
> wellicht kan ik niet zo inloggen op de server, maar ik
> dacht dat sommige ftp een tar.gz konden
> "interpreteren", mits weetikveel...
Geen idee, ik gebruik zeer zelden ftp (alleen als het niet anders
kan). Als je een CGI script kan schrijven, dan kan die vast die tar
uitpakken (met de juiste rechten). Anders zou ik filezilla gebruiken, en
een lange koffiepauze houden :-).
--
John Bokma j3b
Blog: http://johnbokma.com/ Facebook: http://www.facebook.com/j.j.j.bokma
Freelance Perl & Python Development: http://castleamber.com/
Re: sneller ftp van 30.000 docs
Author: Rikishi42
Date: Tue, 21 Sep 2010 19:56
Date: Tue, 21 Sep 2010 19:56
39 lines
2596 bytes
2596 bytes
On 2010-09-20, John Bokma <john@castleamber.com> wrote:
> Rikishi42 <skunkworks@rikishi42.net> writes:
>
>> On 2010-09-19, John Bokma <john@castleamber.com> wrote:
>>> user <no@thanks.be> writes:
>>>
>>>> ipv weex, en per doc uploaden heb ik al eens gelezen
>>>> van zoiets als een tar.gz uploaden, dan een cmd en de
>>>> server plooit alles netjes open.
>>>>
>>>> Hoe zou het gaan??
>>>
>>> kan je de server op met ssh?
>>
>> Als dat het geval is, kan je mmisschien zelfs ftp oveslaan en rsync
>> gebruiken.
>
> Yup, hoewel ik denk dat als je 30K docs in 1x wilt overzetten dit
> sneller gaat door een tarball over te zenden en uit te pakken,
> on-the-fly, dan met rsync.
A priori zou dat inderdaad beter gaan, maar ik denk neit dat hij daar zoveel
van zou merken. Natuurlijk, als het gaat om een regelmatig te herhalen werk,
zou ik wel tijd steken ik optimiseren.
De tarball is allemaal goed en wel, maar die maken zal ook tijd innemen.
Misschien dat de compressie niet zo groot is, dan zou hij er niet eens aan
winnen.
En dan nog iets: is het voor de admin van die server OK dat er zo'n gebruik
gemaakt wordt van zijn machine? De cpu wordt wel aan het werk gezet, met
30.000 files. En is er voldoende volume om bij die verzameling docs, nog
eens een grote tar toe te voegen?
--
When in doubt, use brute force.
-- Ken Thompson
Re: sneller ftp van 30.000 docs
Author: Rikishi42
Date: Tue, 21 Sep 2010 20:02
Date: Tue, 21 Sep 2010 20:02
33 lines
2017 bytes
2017 bytes
On 2010-09-20, user <no@thanks.be> wrote:
> John Bokma wrote:
>
>> kan je de server op met ssh?
>>
>
>
> ftp.fulladsl.be
>
> ik denk van niet
>
> www.fulladsl.be --->
> http://myaccount.fulladsl.be/Technical/Webspace.aspx
>
> wellicht kan ik niet zo inloggen op de server, maar ik
> dacht dat sommige ftp een tar.gz konden
> "interpreteren", mits weetikveel...
>
> Alvast bedankt
Ga er gewoon met een goede FTP client heen, die zal de boel ook wel halen.
De tijd van er over na te denken, is de boel al bij U. En herstarten in
geval van onderbrekeing is toch ook geen probleem meer.
FileZilla of mc, zou ik zeggen.
Of vraag of iemand hier het voor U kan sponzen, alles op DVD zetten en per
snailmail versturen. Tegen betaling, natuurlijik. :-)
--
When in doubt, use brute force.
-- Ken Thompson
Re: sneller ftp van 30.000 docs
Author: John Bokma
Date: Tue, 21 Sep 2010 20:11
Date: Tue, 21 Sep 2010 20:11
47 lines
2984 bytes
2984 bytes
Rikishi42 <skunkworks@rikishi42.net> writes:
> On 2010-09-20, John Bokma <john@castleamber.com> wrote:
>> Rikishi42 <skunkworks@rikishi42.net> writes:
>>
>>> On 2010-09-19, John Bokma <john@castleamber.com> wrote:
>>>> user <no@thanks.be> writes:
>>>>
>>>>> ipv weex, en per doc uploaden heb ik al eens gelezen
>>>>> van zoiets als een tar.gz uploaden, dan een cmd en de
>>>>> server plooit alles netjes open.
>>>>>
>>>>> Hoe zou het gaan??
>>>>
>>>> kan je de server op met ssh?
>>>
>>> Als dat het geval is, kan je mmisschien zelfs ftp oveslaan en rsync
>>> gebruiken.
>>
>> Yup, hoewel ik denk dat als je 30K docs in 1x wilt overzetten dit
>> sneller gaat door een tarball over te zenden en uit te pakken,
>> on-the-fly, dan met rsync.
>
> A priori zou dat inderdaad beter gaan, maar ik denk neit dat hij daar zoveel
> van zou merken. Natuurlijk, als het gaat om een regelmatig te herhalen werk,
> zou ik wel tijd steken ik optimiseren.
>
> De tarball is allemaal goed en wel, maar die maken zal ook tijd innemen.
> Misschien dat de compressie niet zo groot is, dan zou hij er niet eens aan
> winnen.
>
> En dan nog iets: is het voor de admin van die server OK dat er zo'n gebruik
> gemaakt wordt van zijn machine? De cpu wordt wel aan het werk gezet, met
> 30.000 files. En is er voldoende volume om bij die verzameling docs, nog
> eens een grote tar toe te voegen?
Die tarball stream je naar de andere kant, waar die on-the-fly weer
uitgepakt wordt ;-).
Zie: http://www.koopman.me/2008/11/tar-pipe-ssh/
en: http://linux.icydog.net/ssh/piping.php
--
John Bokma j3b
Blog: http://johnbokma.com/ Facebook: http://www.facebook.com/j.j.j.bokma
Freelance Perl & Python Development: http://castleamber.com/
Re: sneller ftp van 30.000 docs
Author: Rikishi42
Date: Fri, 24 Sep 2010 19:15
Date: Fri, 24 Sep 2010 19:15
20 lines
2019 bytes
2019 bytes
On 2010-09-21, John Bokma <john@castleamber.com> wrote:
>> En dan nog iets: is het voor de admin van die server OK dat er zo'n gebruik
>> gemaakt wordt van zijn machine? De cpu wordt wel aan het werk gezet, met
>> 30.000 files. En is er voldoende volume om bij die verzameling docs, nog
>> eens een grote tar toe te voegen?
>
> Die tarball stream je naar de andere kant, waar die on-the-fly weer
> uitgepakt wordt ;-).
God ja, was ik vergeten. De laatste keer dat ik tar echt gebruikt heb, waren
DAT tapes van 4 GB nog een luxe. :-)
Maar dan mag er niets fout gaan, of je kan alles opnieuw beginnen.
Rsync is beter. :-)
--
When in doubt, use brute force.
-- Ken Thompson
Re: sneller ftp van 30.000 docs
Author: Frank Van Damme
Date: Fri, 15 Oct 2010 14:27
Date: Fri, 15 Oct 2010 14:27
23 lines
2211 bytes
2211 bytes
Fred Mobach wrote: >> Yup, hoewel ik denk dat als je 30K docs in 1x wilt overzetten dit >> sneller gaat door een tarball over te zenden en uit te pakken, >> on-the-fly, dan met rsync. Hmmmm, nope. Het nadeel met rsync is dat je eerst een filesystem walk moet doen voor je effectief begint te kopiรซren, maar de afzonderlijke files sturen zorgt niet voor vertragingen (round trip times). Het protocol is daar op voorzien. > Dat zou best eens mee kunnen vallen. Als men rsync gebruikt hoeft er > niet voor verzending en na ontvangst zowel tar als gzip gedraaid te > worden, want dat wordt dan door rsync zelf verwerkt. En qua disk I/O > maakt het ook al niet uit door wie die verzorgd wordt. Tar draaien is nu niet meteen wat je noemt veel overhead. gzip vreet net zoveel cpucycles binnen rsync als binnen euh, gzip; los daarvan draait het bij de tar methode in een ander proces, wat een speed bonus geeft op SMP systemen (meerdere cpu's of processorcores). -- Frank Van Damme
Thread Navigation
This is a paginated view of messages in the thread with full content displayed inline.
Messages are displayed in chronological order, with the original post highlighted in green.
Use pagination controls to navigate through all messages in large threads.
Back to All Threads